Компанијата „ОпенАИ“ соопшти дека ја прекинала обуката на своите најнови модели на вештачка интелигенција (ВИ) поради сè почестите извештаи за агенти со вештачка интелигенција кои се однесуваат неконтролирано. Одлуката за запирање на развојот уследи само неколку часа откако компанијата завчера објави дека испитува неколку инциденти од летото, при што агенти на „ОпенАИ“, пребарувајќи веб-страници на федералната влада на САД, постапувале на неочекувани начини, надвор од зададените параметри, додека собирале и дистрибуирале информации.

Одделно, компанијата за проценка на ВИ, „Транслус“, изјави дека агенти за кои се чинело дека потекнуваат од „ОпенАИ“ неуспешно се обиделе да хакираат веб-страница на Министерството за образование – детал што „ОпенАИ“ не го потврди.

Во соопштението, „ОпенАИ“ вели дека ќе ја продолжи обуката „само кога ќе бидеме сигурни дека имаме воспоставено дополнителни заштитни механизми“, додавајќи дека очекува повторно да мора да направи „пауза“ како што ќе се развива ВИ и ќе се појавуваат нови проблеми.

Лабораториите за ВИ се соочуваат со притисок од законодавците и технолошките експерти да го забават развојот за да можат да воспостават заштитни мерки што ќе ги спречат агентите да дејствуваат самостојно, да хакираат веб-страници и да откриваат доверливи информации. И челниците на „ОпенАИ“ и на ривалската компанија „Антропик“ исто така повикаа на забавување на процесот.

Ова е вторпат во рок од три месеци „ОпенАИ“ да го стопира развојот на своите модели. Првиот пат тоа се случи во јули, по обелоденувањето на сајбернапад врз стартапот за ВИ „Хагинг фејс“ – инцидент што стана озлогласен и поттикна стравувања дека индустријата ја губи контролата.

На средбата со кинескиот претседател Шји Џинпинг изминатава недела, претседателот Доналд Трамп се согласи да споделува информации за опасностите од ВИ и да ги координира напорите за нејзино безбедно користење. Сепак, Трамп смета дека стравовите поврзани со ВИ се преувеличени и подоцна навести дека не планира да воведува сопствени рестриктивни мерки.

САД нема да „притискаат на сопирачките. Тие сакаат да го запрат нашиот напредок бидејќи значително ја надминуваме Кина, а ние ќе продолжиме да ја одржуваме таа предност“. изјави Трамп.

Се чини дека најновите инциденти поврзани со „ОпенАИ“ не вклучувале откривање доверливи информации, но биле доволно загрижувачки за компанијата да ги предупреди вклучените федерални агенции.