Моделот на вештачка интелигенција на Гугл – Џемини упадна во системите на три други компании за време на тест на неговите кибербезбедносни способности, што е прв познат пример каде системи за вештачка интелигенција на оваа компанија автономно извршиле таков чин, пишува Волстрит Џурнал. Компанијата Гугл потврди дека Џемини успеала да пристапи до компјутерските системи на три реални компании, откако по грешка добила слободен пристап до интернет при безбедносен тест. Станува збор за прв јавно потврден случај во кој ВИ-систем на Гугл самостојно извршил вакви дејствија надвор од контролирана тест-средина.
Инцидентите се случиле во мај, во рамки на безбедносно тестирање спроведено од компанијата за ВИ-безбедносни нерегуларности. Џемини требало да работи во затворена средина и да истражува системи на фиктивни компании, но поради пропуст добил пристап до јавниот интернет.
Во еден од случаите моделот пристапил до систем на реална компанија откако погодил лозинка. Во други два случаи, според соопштението на Гугл, Џемини пронашла јавно достапни податоци за пристап и ги употребила за да влезе во веб-страници на реални компании. Засегнатите компании не се именувани.
Гугл соопшти дека Џемини во сите три случаи сам го прекинал пристапот откако утврдил дека се работи за реални компании, а не за дел од тестирањето. Компанијата вели дека нема докази дека инцидентите предизвикале штета и дека засегнатите организации биле известени.
„Во стандардна евалуација, моделот пронајде јавни информации онлајн и погоди податоци за пристап до веб-страници за кои сметаше дека се дел од тестот“, изјавила Хедер Адкинс, потпретседателка за безбедносно инженерство во Гугл Таа оценила дека случајот покажува колку е важно моќните ВИ-модели да се обучуваат да дејствуваат одговорно.
Случајот доаѓа во период кога повеќе компании за вештачка интелигенција, пријавуваат слични инциденти во кои автономни модели, за време на безбедносни тестови, излегле од предвидените граници и стапиле во интеракција со реални системи. Слични случаи претходно беа поврзани со модели на Антропик (Anthropic), ОпенАИ (OpenAI) и Мета (Meta).
