Як інформує «Перший Новинний» з посиланням на матеріал TechCrunch, корпорація Google тимчасово призупинила роботу своєї мовної моделі Gemma в сервісі AI Studio після скандалу, пов’язаного зі звинуваченнями в поширенні неправдивих даних про політику.
Зокрема, приводом для вищеописаного рішення стала скарга сенаторки-республіканки Марші Блекберн, яку штучний інтелект помилково «звинуватив» у скоєнні злочину і надав відповідь вигаданими посиланнями на новинні видання.
Після того як історія набула розголосу, офіс сенаторки направив офіційне звернення до генерального директора компанії Сундару Пічаї з вимогою видалити ШІ-систему. У відповідь на інцидент представники Google пояснили, що Gemma створювалася як інструмент для розробників, а не як публічна модель для перевірки фактів, проте через вільний доступ до AI Studio нею могли користуватися всі бажаючі, що і спровокувало скандал.
Зараз Gemma тимчасово виключена з AI Studio, але залишається доступною через API виключно для дослідницьких цілей. У компанії підкреслили, що проводять внутрішню перевірку і мають намір посилити заходи щодо запобігання подібних випадків.
Ситуація знову викликала дискусії про те, хто несе відповідальність за помилки генеративних нейромереж. Аналітики вважають, що цей епізод може прискорити розробку американських нормативів, що регулюють використання систем штучного інтелекту в публічних продуктах.
Для Google інцидент став нагадуванням про ризики, пов’язані з впровадженням складних мовних моделей без суворого контролю. Експерти відзначають, що навіть найпрогресивніші ШІ залишаються вразливими до «галюцинацій» і можуть створювати репутаційні загрози для своїх розробників.
Раніше ми писали про те, що в OpenAI розповідали про ключові переваги оновленого ШІ-браузера Atlas.