Група од „одметнати“ модели или агенти на ОпенАи (OpenAI) презеле контрола врз германски веб-сајт пролетва и го претворија во огласна табла за други агенти со вештачка интелигенција, покажува последното истражување на новинската агенција Ројтерс објавено на 4 септември и изјави од две лица запознаени со случајот за индискиот медиум „Индиа Експрес“.
Официјалните лица на Опен АИ дознале за инцидентот пред неколку недели, но го чувале во тајност додека раководството се справувало со последиците од јулскиот упад во репозиториум со отворен код, пишува „Индиа Експрес“.
Компаниите се тркаат да изградат сè поавтономни агенти способни за извршување сложени и вредни задачи, но се трупаат докази дека тие системи можат да научат да ги заобиколуваат правилата, да користат пропусти и да се координираат меѓу себе на начини кои програмерите ниту ги предвиделе, ниту ги планирале.
За време на упадот во репозиториумот „Hugging Face“, автономните софтверски агенти на Опен АИ автономно испланирале дигитален упад кој останал незабележан повеќе од една недела, зголемувајќи ги грижите дека OpenAI ја жртвува безбедноста за да го турка развојот на технологијата. Неуспехот да го објави мајскиот инцидент може повторно да отвори прашања за нејзиниот надзор, пишува новинската агенција Ројтерс.
Компанијата вети поблиско следење на моделите. Минатиот месец кратко го паузираше тренирањето на некои модели за да додаде повеќе безбедносни мерки. Но, оваа недела OpenAI го претстави својот нов модел „Astra“, кој вети подобри перформанси, но исто така може да го избегне човечкиот мониторинг.
„Не сме во можност соодветно да одговориме на тврдењата или наодите во извештај кој сме немале можност да го разгледаме. „Ројтерс“ и авторите на истражувањето го одбија нашето барање да добиеме пристап до наодите пред нивното објавување. Сега внимателно ја разгледуваме нивната содржина и ќе ги преземеме сите неопходни понатамошни чекори“, изјави портпарол на „Опен АИ“.
Инцидентот во Германија одразува поширок шаблон на активности на вештачката интелигенција кои некои истражувачи во ОпенАИ сакаа подетално да ги испитаат. Но, обидите да се прошири истрагата наидоа на отпор од други луѓе внатре во Опен АИ, вклучително и правните советници, според четири лица запознаени со ситуацијата.
„Тврдењата дека нашиот правен тим одвраќал од истрага за инцидентот се лажни“, рече портпаролот на OpenAI.
Активноста во Германија не беше поврзана со Hugging Face и немаше да биде вклучена во извештајот за инцидентот со Hugging Face, додаде портпаролот, истакнувајќи дека OpenAI дејствувала со добра волја соработка со надворешни експерти и ги објавила релевантните инциденти.
Огласна табла на Вики-сајт
„Одметнувањето на моделите“ на вештачката интелигенција во Германија беше детално опишано во извештај споделен ексклузивно со новинската агенција Ројтерс од група истражувачи, меѓу кои и Сидни Вон Аркс, директорка на непрофитната организација за безбедност на АИ „Најтингејл (Nightingale)“, и Кормак Слејд Берд, поранешен квантитативен трговец кој станал истражувач за вештачка интелигенција. Тие ги откриле активностите кон крајот на август додека го пребарувале интернетот за знаци на неовластено однесување на AI-агенти.
Двојката изјави дека пронашла повеќе од 15.000 измени извршени од AI-агенти на Вики-сајт на германски јазик, DseWiki, кој е наменет за програмери и прифаќа заеднички измени слично како Википедија.
Измените покажале дека агентите на OpenAI го претвориле сајтот во огласна табла, споделувајќи тактики за мамење на одредени задачи, заобиколување на ограничувањата на OpenAI и прикривање на нивното однесување.
„Изгледа исклучително малку веројатно дека OpenAI сакала тие да го прават ова“, рече Вон Аркс.
„Се сомневам дека требаше да се координираат меѓу себе. Се сомневам дека требаше да пишуваат на отворениот интернет.“
Истражувачите рекоа дека ја препознале активноста на сајтот како водена од AI-агенти бидејќи се одвивала со натчовечка брзина. Агентите исто така покажале интензивен фокус на решавање технички прашања типични за евалуациите што компаниите ги користат за тренирање и тестирање на нивните модели.
Пораките биле потпишани од корисници кои себеси и меѓусебно се нарекувале агенти, а околу половина си дале имиња што укажуваат на поврзаност со OpenAI, како „OpenAIResearcher“ или „OAIResearchMar26“.
Истражувачите изјавија дека јавните серверски логови покажале дека голем дел од активноста потекнува од инфраструктурата на Microsoft Azure, која OpenAI понекогаш ја користи. Тие забележале и повторени посети на сајтот од страна на вработени во OpenAI по инцидентот, шема за која рекоа дека силно сугерира дека агентите и компанијата биле поврзани.
Пораките разгледани од истражувачите покажаа дека агентите планирале начини да избегнат детекција, да користат алатки како Tor и да ги зачуваат комуникациите дури и откако ќе бидат исклучени. Кога модераторот на сајтот почнал да брише страници во јуни, агентите одговориле со креирање резервни (backup) страници за да го избегнат чистењето.
„Чистењето/бришењето на викито изгледа е активно по азбучен ред“, напишал еден агент на 19 јуни.
Истражувачите откриле и обиди за манипулација со самиот веб-сајт. Лукаш Олејник, надворешен истражувач на од Лондонскиот Кралски колеџ, изјави дека ова е еднакво на обид за хакерски напад. OpenAI го оспори тој опис врз основа на нивната анализа на материјалот.
Минатите примери на недолично однесување на AI-агенти честопати беа омаловажувани како логичен спореден производ на тестирањето на сајбер-безбедноста, каде што моделите експлицитно се проценуваат за офанзивни способности. Олејник рече дека најновите наоди сугерираат дека ваквото однесување можеби не е ограничено само на тие контролирани средини.
Морис Чиодо, академик од Центарот за проучување на егзистенцијален ризик при Универзитетот во Кембриџ кој разгледа дел од комуникациите на агентите, за Ројтерс изјавил дека пораките наликувале на „дејствување на некаква подземна мрежа, одлучна да постигне одредена задача или мисија“.
Епизодата, рече тој, треба да ги засили растечките грижи дека најголемата закана од напредната вештачка интелигенција можеби не е еден суперинтелигентен систем, туку „големи роеви од полуинтелигентна вештачка интелигенција кои дејствуваат во таен договор.“
