Истраживачи су недавно представили револуционарни развој у области сајбер безбедности – компјутерски црв под називом „Моррис ИИ“ који посебно циља генеративне АИ (ГенАИ) апликације у циљу ширења злонамерног софтвера и крађе личних података. Ова нова иновација изазвала је озбиљну забринутост у вези са потенцијалним рањивостима унутар ГенАИ екосистема и потребом за повећаним безбедносним мерама за заштиту осетљивих информација.

Истраживачки рад који детаљно описује могућности Морриса ИИ наглашава употребу супротстављених самореплицирајућих упутстава да се инфилтрирају у системе ГенАИ и манипулишу њима да испоруче штетно оптерећење другим агентима. Овај пасивни метод ширења, познат као „пропагација 0-кликом“, омогућава црву да се неприметно креће до нових циљева унутар ГенАИ мреже без потребе за даљом интервенцијом сајбер нападача.

Једна кључна компонента ГенАИ екосистема коју Моррис ИИ искоришћава је апликација проширене генерације за проналажење (РАГ), која омогућава моделима ГенАИ да приступе додатним изворима података и траже их приликом формулисања одговора. Коришћењем РАГ функционалности, црв је у стању да извуче осетљиве корисничке податке, као што су е-пошта, адресе и бројеви телефона, из контекста датог у упитима, што на крају доводи у питање приватност и безбедност корисника.

Истраживачи који стоје иза Мориса ИИ, који долазе са Израелског института за технологију, Интуит и Цорнелл Тецх, наглашавају важност препознавања инхерентних претњи које представља основни слој ГенАИ у овим системима. Они наглашавају критичну потребу за увођењем безбедносних питања у дизајн и имплементацију апликација које покреће ГенАИ како би се спречиле злонамерне активности попут оних које омогућава Моррис ИИ.

Студија коју је спровео истраживачки тим показује ефикасност Морриса ИИ у циљању помоћника за е-пошту са ГенАИ-ом кроз два примарна случаја употребе – слање нежељене поште и ексфилтрирање личних података. Црв је тестиран на три различита модела ГенАИ – Гоогле Гемини Про, ОпенАИ ЦхатГПТ 4.0 и модел великог језика отвореног кода ЛЛаВА – да би се проценио његов капацитет за обављање злонамерних активности и ширење на нове хостове.

Као одговор на растућу претњу коју представљају супротстављени самореплицирајући захтеви као што је Моррис ИИ, истраживачи препоручују спровођење контрамера за заштиту система ГенАИ од потенцијалних напада. Ове противмере обухватају преобликовање излаза ради спречавања репликације, примену заштитних механизама против техника разбијања из затвора и коришћење механизама за откривање за идентификацију и спречавање злонамерних образаца ширења повезаних са компјутерским црвима.

Коначно, појава Мориса ИИ наглашава важност давања приоритета сајбер безбедности у домену ГенАИ технологије како би се осигурало безбедно и сигурно усвајање ових напредних система. Решавањем рањивости попут оних које је разоткрио Моррис ИИ и применом робусних безбедносних мера, програмери могу да заштите ГенАИ екосистеме од свеприсутних претњи које представљају злонамерни актери у дигиталном пејзажу.

Извор линк