Предупредувањата од Антропик“ (Anthropic), истражувачите во водечкиот американски развивач на вештачка интелигенција(ВИ), дека сè помоќните модели би можеле да избегаат од човечка контрола, па дури и да доведат до истребување на човечката раса, го привлекоа вниманието во Кина каде креаторите на политики се подготвуваат за некои од истите ризици, објави „Ројтерс“.
Соединетите Американски Држави (САД) и Кина се двете главни движечки сили на развој на вештачката интелигенција на преден план и глобалното усвојување на технологијата. Двете суперсили се повеќе се во конфликт околу политиките за вештачка интелигенција и индустриските практики, при што овие прашања се очекува да бидат истакнати во билатералните разговори подоцна овој месец.
И покрај трката за развој на сè помоќни системи за вештачка интелигенција и регулаторните рамки, кинеските власти сметаат дека напредната вештачка интелигенција може да избега од ефективен човечки надзор и тоа треба однапред да се планира.
КИНА ГЛЕДА РИЗИЦИ ВО ВОДЕЧКИТЕ МОДЕЛИ СО ЗАТВОРЕН ИЗВОР ВО САД
Министерот за државна безбедност на Кина, Чен Јиксин, напиша во владин медиум дека напредните американски модели како што се Mythos на Anthropic и GPT-5.5-Cyber на OpenAI би можеле да претставуваат сериозни ризици за критичната информациска инфраструктура на Кина и повика на сеопфатно зајакнување на безбедноста на вештачката интелигенција.
Anthropic и OpenAI не одговорија веднаш на барањата на Ројтерс за коментар.
Кинеските развивачи на вештачка интелигенција промовираа модели со отворена тежина делумно врз основа на тоа што тимовите за сајбер безбедност можат да ги контролираат, модифицираат и распоредат за одбранбена работа.
Платформата за складирање на модели Hugging Face соопшти дека користела GLM-5.2, модел со отворена тежина развиен од кинескиот Z.AI (2513.HK) за да анализира упад во јули од избегани агенти на OpenAI откако построго ограничените американски модели се покажаа помалку корисни за форензичката работа.
Но, експертите, исто така, ги истакнуваат ризиците што ги претставуваат моделите со отворена тежина, кои можат да се модифицираат и редистрибуираат со мал надзор.
РИЗИКОТ ЗА „ГУБЕЊЕ КОНТРОЛА“
Кина прво вклучи експлицитно сценарио за идно губење на контролата во рамка за безбедност на вештачката интелигенција објавена во септември 2024 година, под водство на Администрацијата за сајбер-простор на Кина (CAC).
Во документот се вели дека не може да се исклучи можноста идната вештачка интелигенција автономно да добива надворешни ресурси, да се реплицира, да развива самосвест и да бара надворешна моќ, создавајќи ризик од натпревар со луѓето за тој кој ќе има контрола.
CAC објави проширена верзија во септември 2025 година. Поновата рамка го изостри сценариото, велејќи дека ВИ може да претрпи ненадеен и неочекувано голем „скок“ во интелигенцијата пред да се стекне со ресурси, да се реплицира и да има моќ.
Подоцнежно експертско толкување објавено на веб-страницата на регулаторот на сајбер-просторот вели дека новиот принцип има за цел да се заштити од ризици од губење на контрола што го загрозуваат човечкиот опстанок и развој и се однесува на можно сценарио за „ослободување на вештачката интелигенција“.
Оттогаш, има загриженоста во политичките пораки што доаѓаатр од највисоко ниво во Кина.
На Светската конференција за вештачка интелигенција во Шангај во јули, кинескиот претседател Си Џинпинг рече дека властите треба да обртат големо внимание и на вродените и на деривативните ризици што произлегуваат од вештачката интелигенција. Тој рече дека вештачката интелигенција „секогаш треба да остане под човечка контрола“.
Високи функционер на Министерството за надворешни работи на Кина, одговорен за прашања поврзани со вештачката интелигенција, на состанокот на Обединетите нации минатиот месец изјави дека Кина го забрзува истражувањето за пошироко законодавство за вештачката интелигенција.
Заменик-постојаниот претставник на Кина во Обединетите нации, Сун Леи, ги повика владите внимателно да пристапат кон воената вештачка интелигенција за да избегнат стратешки грешки во пресметката и во трката во вооружување.
ПЕКИНГ ПРЕДУПРЕДУВА НА НОВИ РИЗИЦИ
Во меѓувреме, Кина почна да ги претвора тие принципи во поспецифични правила за агентите на вештачката интелигенција, кои дејствуваат многу поавтономно и извршуваат посложени задачи од обичен чат-бот.
Во мај, кинескиот регулатор за сајбер-простор издаде заеднички упатства што конкретно ги опфаќаат ваквите системи.
Тие бараат од програмерите да ја подобрат својата способност да откриваат, интервенираат и блокираат несоодветно однесување на агентите.
Упатствата ги идентификуваат труењето со податоци, манипулацијата со алгоритми, системските ранливости и „оперативната загуба на контрола“ како безбедносни ризици. Тие исто така велат дека корисниците треба да го задржат конечниот авторитет за донесување одлуки врз автономните одлуки на агентот.
Иако Кина не предложи независни монитори вградени во компаниите за вештачка интелигенција на начинот што го заговара Anthropic, нејзините стандарди им овозможуваат на програмерите да нарачуваат проценки на безбедноста од трети страни, како и да предвидуваат надворешни тела за евалуација и истражувачи за безбедност кои тестираат и ревидираат отворени модели.
САД и Кина се во нов технолошки судир околу контролата врз ВИ, а се обвинуваат и за технолошки практики поврзани со напредните модели.
Кинеските компании во последниот период развија моќни модели на вештачка интелигенција, кои според некои критериуми се споредливи со американските, а често се поевтини за користење. Американските агенции, пак, тврдат дека кинески компании се обидувале да извлечат, односно да „дестилираат“, способности од американски модели како Клод на „Антропик“ и Џи-Пи-Ти на „ОпенАИ“. Кина ги отфрла овие обвинувања и го обвинува Вашингтон дека се обидува да воспостави монопол во индустријата.
(Извор: Ројтерс)
