Технолошката компанија ОпенАИ ја промовираше својата алатка за транскрипција Виспер (Whisper – шепкач) со вештачка интелигенција како „живост и прецизност на човечко ниво“. Но, Виспер има голем недостаток: склоност да измислува делови од текст или дури и цели реченици, според интервјуата со повеќе од десетина софтверски инженери, програмери и академски истражувачи. Тие експерти рекоа дека дел од измислениот текст – познат во индустријата како халуцинации – може да вклучува расни коментари, насилна реторика, па дури и замислени медицински третмани.
Експертите рекоа дека таквите измислици се проблематични бидејќи Виспер се користи во голем број индустрии ширум светот за преведување и транскрипција на интервјуа, генерирање текст во популарни технологии за потрошувачи и создавање преводи за видеа. Позагрижувачки, велат тие, е брзањето на медицинските центри да ги користат алатките базирани на Виспер за транскрипција на консултациите на пациентите со лекарите, и покрај предупредувањата на ОпенАИ дека алатката не треба да се користи во „домени со висок ризик“.
Целосниот обем на проблемот е тешко да се препознае, но истражувачите и инженерите рекоа дека често се среќавале со халуцинациите на Виспер во нивната работа. Истражувач од Универзитетот во Мичиген, кој спроведувал студија за јавни состаноци, на пример, рекол дека нашол халуцинации во 8 од секои 10 аудио транскрипции што ги прегледал, пред да почне да се обидува да го подобри моделот. Инженер за машинско учење рече дека првично открил халуцинации во околу половина од над 100 часа транскрипции на Виспер што ги анализирал. Трет развивач рече дека пронашол халуцинации во речиси секој од 26.000 транскрипти што ги создал со Виспер.
Проблемите постојат дури и во добро снимени, кратки аудио примероци. Неодамнешното истражување на компјутерските научници откри 187 халуцинации во повеќе од 13.000 јасни аудио фрагменти што ги испитувале. Тој тренд би довел до десетици илјади погрешни транскрипции на милиони снимки, велат истражувачите.
Ваквите грешки би можеле да имаат „навистина тешки последици“, особено во болнички услови, рече Алондра Нелсон, која до минатата година ја водеше Канцеларијата за политика на наука и технологија во Белата куќа за администрацијата на Бајден.
„Никој не сака погрешна дијагноза. Треба да има повисок праг“, рече Нелсон, професорка на Институтот за напредни студии во Принстон, Њу Џерси.
Виспер, исто така, се користи за создавање затворени титлови за глуви и наглуви – популација изложена на посебен ризик за неисправни транскрипции. Тоа е затоа што глувите и наглувите немаат начин да идентификуваат измислици што се „скриени меѓу целиот овој друг текст“, рече Кристијан Воглер, кој е глув и ја води Програмата за пристап до технологија на Универзитетот Галодет.
Портпаролот на ОпенАИ рече дека компанијата континуирано проучува како да ги намали халуцинациите и ги цени наодите на истражувачите, додавајќи дека ОпенАИ ги вклучува добиените повратни информации во ажурирањата на моделите.
Додека повеќето програмери претпоставуваат дека алатките за транскрипција погрешно пишуваат зборови или прават други грешки, инженерите и истражувачите рекоа дека никогаш не виделе друга алатка за транскрипција на вештачка интелигенција да халуцинира толку многу како Виспер.
