У складу са тренутним стањем сајбер-безбедности, фокус на деепфакес и пхисхинг заснован на моделу великог језика (ЛЛМ) може да скреће пажњу са значајнијих ризика повезаних са генеративном вештачком интелигенцијом (ГенАИ). Забринутост око ГенАИ-ја је мање везана за потенцијалне претње од технологије, а више за претње ГенАИ-ју од нападача који искориштавају слабости и недостатке у дизајну ових система.

Промпт ињецтион, метод који се користи за унос текстуалних упита у ЛЛМ системе за покретање ненамерних или неовлашћених радњи, идентификован је као критичан вектор претње против АИ. Компанија ризичног капитала СигналФире идентификовала је брзо убризгавање као проблем број један који треба хитно да се реши на тржишту безбедности.

Промпт ињецтион је злонамерна варијација брзог инжењеринга, где се унос текста креира да би се оптимизовао излаз ГенАИ система. Међутим, у случају брзог убризгавања, намеравани излаз обично укључује екстракцију осетљивих информација или покретање нежељених радњи. Нападачи често упорно подстичу систем пратећим инпутима све док не буду могли да манипулишу ЛЛМ-ом да би испунили своје циљеве, тактика која се назива друштвени инжењеринг АИ машина.

Свеобухватни водич о контрадикторним нападима вештачке интелигенције који је објавио Национални институт за стандарде и технологију (НИСТ) истакао је брзу ињекцију као главну претњу, која обухвата директне и индиректне нападе брзе ињекције. Ови напади могу убризгати злонамерни унос директно у промпт система ЛЛМ или манипулисати изворима информација које користи ЛЛМ да утиче на његов излаз.

Штавише, нападачи могу да искористе мултимодалне ГенАИ системе који могу бити подстакнути сликама, проширујући обим напада брзим убризгавањем. Ово ствара изазове у разликовању легитимних инструкција и упутстава убризганих од стране корисника, која чак могу бити у облику слика.

Потенцијални вектори напада који користе брзу ињекцију су разноврсни и еволуирају. Нападачи могу да искористе промптну ињекцију да извуку информације о томе како је ЛЛМ обучен, заобиђу контроле које спречавају приказивање неприкладног садржаја или ексфилтрирају податке из система или повезаних извора. Ова рањивост у ЛЛМ-овима представља значајан ризик за приватност података, потенцијално излажући осетљиве информације које је систем сазнао.

Напади са брзим убризгавањем могу не само да компромитују осетљиве податке, већ и да функционишу као капија за нападаче да манипулишу системима вештачке интелигенције, покрећући нежељене радње уграђене у критичне системе или процесе који користе ЛЛМ. Пошто ови напади у суштини могу откључати позадинска врата у функционалност АИ, постаје очигледна озбиљност опасности од брзе ињекције.

Да би се борили против брзог убризгавања, тимови за сајбер безбедност треба да се позабаве инхерентном подложношћу ЛЛМ-ова манипулацији уносом, што отежава разликовање легитимних и злонамерних упита. Рани покушаји филтрирања улаза и постављања заштитних ограда на излазу ЛЛМ-а су у току. Међутим, ови приступи су још увек у повоју и подложни манипулацији, што представља значајан изазов за проналажење поузданог решења за брзе нападе ињекцијом.

Како окружење сајбер безбедности наставља да се развија, кључно је за браниоце да се брзо позабаве претњом брзим убризгавањем и иновирају како би развили робусна решења. Хитна потреба да се ублаже напади брзог убризгавања наглашава важност проактивних мера за заштиту ЛЛМ-а од контрадикторних претњи вештачке интелигенције. Како обим претње постаје све очигледнији, заједница сајбер безбедности мора да ради брзо како би била испред нападача који користе брзу ињекцију.

Извор линк