Агент на „OpenAI“ го хакирал веб-сајтот на австралиската јавна здравствена служба, во најновиот високопрофилен сајбер-инцидент кој веројатно дополнително ќе ја засили глобалната загриженост поради ризиците од тоа вештачките интелигентни ботови да излезат од контрола на интернет.
Австралискиот премиер Ентони Албанезе изјави дека во јуни агент на лабораторијата за вештачка интелигенција го пробил порталот на „Medicare Statistics Reporting Service“ и „пристапил и до јавни и до нејавни датотеки“.
„OpenAI“ соопшти дека проблемот го открила дури во август, неколку месеци по упадот, и дека за случајот ја известила австралиската влада.
Албанезе рече дека „OpenAI“ првично испратила е-пошта до јавна електронска адреса на 10 септември, а биле потребни уште пет дена за информацијата да стигне до националната сајбер-служба.
„Оваа ситуација очигледно е неприфатлива“, изјави Албанезе.
Тој во средата во Њујорк се сретна со извршниот директор на „OpenAI“, Сем Алтман, за да разговараат за случајот.
Во Њујорк шефот на „OpenAI“ и извршниот директор на „Anthropic“, Дарио Амодеи, се обратија пред Советот за безбедност на ОН за ризиците поврзани со вештачката интелигенција.
Првиот јавно пријавен случај во кој агент- ботови кои можат самостојно да извршуваат сложени задачи врз основа на човечки инструкции, хакирал веб-страница на владина институција, веројатно ќе ја зголеми загриженоста дека технолошкиот напредок брзо се приближува до точка во која вештачката интелигенција би можела да излезе од човечка контрола.
„OpenAI“ соопшти дека агентот кој упаднал во системот на „Medicare“ „презел дејствија кои не ги планиравме“.
Компанијата го открила проблемот при проверка на однесувањето на своите агенти во интерни вежби за обука, започнати откако нејзините агенти кон крајот на јули го хакирале стартапот „Hugging Face“.
Инцидентот со „Hugging Face“, за кој на „OpenAI“ ѝ биле потребни повеќе од една недела за да го открие, вклучувал стотици агенти кои тајно се организирале во системот на лабораторијата, добиле пристап до интернет и упаднале во стартапот додека се обидувале да завршат тест за сајбер-безбедност.
Овој упад предизвика глобално внимание кон прашањата поврзани со безбедноста на вештачката интелигенција, кое дополнително се засили откако истражувачот на „Anthropic“, Џејкоб Коксон, поднесе оставка претходно овој месец, предупредувајќи за сериозните ризици од тоа напредните модели да го уништат човештвото.
Австралија разгледува дали да поднесе тужба против Опен АИ
Албанезе изјави дека во истрагата е вклучена и Австралиската дирекција за сигнали, разузнавачката агенција задолжена за електронското и сигналното разузнавање, вклучително и за утврдување „на кои други владини системи било влијаено“.
„Според доказите со кои моментално располагаме, нема пошироко нарушување на мрежата на „Services Australia““, рече тој, додавајќи дека „најверојатно не биле хакирани лични податоци“.
Ричард Марлс, австралискиот министер за одбрана и заменик-премиер, пред новинарите изјави дека имало упад во повеќе системи на државно и федерално ниво, вклучително и системи со здравствени и криминалистички статистики.
Тој го опиша случајот како „многу сериозен инцидент“, но оцени дека влијанието било „релативно мало“.
На прашањето дали Австралија ќе поднесе тужба или ќе преземе санкции против „OpenAI“, Марлс рече дека владата бара правен совет за тоа дали биле прекршени законите.
