Моделите на вештачка интелигенција на ОпенАИ (OpenAI), компанијата што го создаде Чет-ЏПТ, пребарувале низ веб-страниците на американската влада, вклучително и оние на Министерството за образование и Министерството за трговија, соопштија истражувачи во петокот.
Тие додаваат дека ова е уште еден во растечкиот број случаи во кои агентите со вештачка интелигенција на ОпенАИ дејствувале без знаење на компанијата – објави американскиот весник Вашингтон пост.
Според изјавата што во петокот ја објави истражувачката компанија за вештачка интелигенција „ТрансЛус“, агентите со вештачка интелигенција на компанијата се обиделе да го хакираат веб-сајтот на Канцеларијата за граѓански права при Министерството за образование, но не успеале.
Портпаролот на ОпенАИ по изјавата на „ТрансЛус“, соопшти дека софтверот на ОпенАИ исто така пристапил до податоци на Бирото за попис на населението на САД, користејќи податоци за најавување пронајдени на интернет, како и дека копирал јавно достапни информации од Комисијата за хартии од вредност.
ОпенАИ соопшти дека нејзините агенти постапиле несоодветно во инцидентите поврзани со Комисијата за хартии од вредност и Бирото за попис на населението, но дека не украле никакви приватни податоци.
Компанијата наведе дека сè уште го истражува однесувањето на својата технологија на веб-страницата на Министерството за образование, како дел од поширока проверка на ненамерните активности на нејзините агенти со вештачка интелигенција.
Од ОпенАИ информираа дека доколку компанијата ги извести организациите за кои утврдила дека биле погодени од неочекувано однесување на моделите, тоа не значи дека се случил безбедносен инцидент. Таквото известување може да укаже на проблем во дизајнот или безбедносна слабост што засегнатите организации сакаат да ја отстранат – пишува Еј-Би-Си њуз.
Најголем дел од активностите што ОпенАИ досега ги разгледал биле поврзани со вообичаени истражувачки задачи, при кои агентите пристапувале до јавно достапни содржини на интернет за да одговорат на прашања, вклучително и до веб-страници на владините институции кои се сметаат за авторитетни извори на информации од јавен карактер.
Неколку компании во изминатите месеци открија инциденти во кои, според нивните наводи, нивните модели се однесувале непредвидливо или извршиле хакерски напади врз веб-страници или системи на други организации.
ОпенАИ во јули соопшти дека два од неговите најмоќни модели за вештачка интелигенција биле одговорни за сајбернападот врз стартап-компанијата за вештачка интелигенција „Хагинг фејс“ (Hugging Face).
