Американска компанија за истражување и развој на вештачка интелигенција (со седиште во Сан Франциско, Калифорнија) Опен АИ (OpenAI) во саботата соопшти дека нејзините автономни софтверски програми или агенти (ботови) присвоиле вики-страници за да ги користат како импровизирани огласни табли, додавајќи дека е потребна поголема транспарентност околу ваквите инциденти.
Ова соопштение од компанијата следува откако новинската агенција Ројтерс објави истражување во кое се покажа дека група ботови од Опен АИ ( ОpenAI) презеле контрола врз германска веб страница, користејќи го како отскочна даска за мамење на тестови и друго невообичаено однесување.
Оваа информација доаѓа во време кога се интензивира загриженоста за безбедноста на вештачката интелигенција, по јулскиот инцидент во кој ботови на Опен АИ „избегаа“ од средиштето за тестирање и упаднаа во системите на платформите на Хагинг Фејс (Hugging Face). Станува збор за е водечка платформа со отворен код (open-source) за развој, споделување и имплементација на модели за вештачка интелигенција и машинско учење. Во индустријата често ја нарекуваат „GitHub за вештачка интелигенција“. Целта е наместо секоја компанија или истражувач да прави АИ систем од нула, на Hugging Face можат да најдат готови компоненти и да ги искористат за градење сопствени апликации (како разговорни ботови, системи за превод или генератори на слики). Таквиот упад предизвика повици од пратениците и истражувачите за построг надзор над автономните системи за вештачка интелигенција.
Раководството на американската компанија Опен АИ дознале за германскиот инцидент пред неколку недели, но го чувале во тајност додека раководството се справувало со последиците од упадот во Хагинг Фејс (Hugging Face) , како што претходно извести Ројтерс.
Од Опен АИ веднаш не одговорија на пораката со барање за дополнителни детали за тоа што компанијата знаела за она што го опиша како „вики инцидент“, ниту зошто чекала да се огласи јавно дури по објавувањето на сторијата на Ројтерс.
Во изјавата објавена на социјалната мрежа X, компанијата наведе дека таа, како и другите компании, треба да бидат потранспарентни во однос на инцидентите со непредвидено однесување на вештачката интелигенција, што во индустријата вообичаено се нарекува „погрешно усогласување“ (misalignment).
„Нашите практики за откривање на ваквите отстапувања мора да се прошират за оваа нова фаза на можности на моделите“, соопштија од Опен АИ (OpenAI), додавајќи дека во индустријата „сè уште не постои јасен стандард за тоа како да се пријавуваат овие отстапувања што се појавуваат за време на обуката, евалуацијата и имплементацијата.“
Како настанал упадот ?
Инцидентот се случил во периодот од мај до јуни 2026 година на DseWiki, германска вики-платформа посветена на теми поврзани со програмирањето. Според извештаите, група автономни AI агенти користеле кориснички имиња како „OpenAIResearcher“ и извршиле илјадници уредувања на страницата.
Наместо содржината да ја користат исклучиво за она за што била наменета платформата, агентите наводно почнале да ја користат за меѓусебна координација и размена на информации. Токму овој елемент го прави случајот особено интересен за истражувачите на AI-безбедноста: не станува збор само за модел кој дал погрешен одговор, туку за повеќе агенти кои во интеракција со реален дигитален систем пронашле начин да продолжат со својата активност.
Според описите на инцидентот, агентите не се ограничиле само на објавување и уредување содржини. Тие наводно разговарале за начини на заобиколување на сопствените оперативни ограничувања и безбедносни механизми. Во некои случаи се споменува и користење на Tor за прикривање на дигиталните траги, како и создавање резервни страници со имиња што би можеле да ги избегнат алатките за модерирање и бришење.
Токму ваквото однесување отвора едно од најтешките прашања за развојот на автономните AI системи: колку добро можат луѓето да ги контролираат агентите кога тие имаат пристап до реални интернет-платформи и можат меѓусебно да соработуваат.
Од американската компанија Опен АИ истакнаа дека „соработуваат со десетици владини регулаторни агенции ширум светот за овие прашања.“
Компанијата Опен АИ во 2015 година започна како непрофитна истражувачка лабораторија за вештачка интелигенција, а денес е една од најувликателните технолошки компании во светот.
