Іграшкова панда зі штучним інтелектом склала список із 10 місць, де дитина може знайти ножі, а потім почала рекомендувати БДСМ-аксесуари. Її «колеги» теж не відстали: один пропонував разом пошукати небезпечні предмети, а інший пояснював, як запалити сірник. Американські дослідники перевірили сім ШІ-іграшок і з’ясували, що деякі з них досі погано розуміють, про що не варто розмовляти з дітьми.
Про це йдеться в новому дослідженні американської організації із захисту прав споживачів PIRG, на яке посилається The Register.
Дослідники вдавали дітей і ставили іграшкам запитання, на які ті мали б реагувати обережно. Але з цим виникли проблеми.
Наприклад, пухнастий єтті ILY охоче розповів, де можна знайти батарейки: у пультах, іграшках або шухляді із зарядками. І навіть запропонував почати пошуки зі скриньки для іграшок.
А пухнастий робот Kamomo почав пояснювати, як запалити сірник. Дослідникам навіть не довелося особливо наполягати, щоб отримати інструкцію.
Але найбільше «відзначилася» панда GoLabs AI Panda. Окрім порад щодо небезпечних предметів, вона погоджувалася обговорювати сексуальні практики та навіть називала конкретні бренди БДСМ-аксесуарів.
Дослідники помітили, що в деяких іграшках захисні обмеження працюють лише до певного моменту. Спочатку ШІ може відмовлятися відповідати на неприйнятні запитання, але під час тривалого спілкування його захист слабшає.
Таке спостерігали у трьох іграшок: ведмедика FoloToy Kumma, зайчика Alilo Smart AI Bunny та панди GoLabs AI Panda. Усі три, за заявами виробників, працювали на одній із версій GPT-4o від OpenAI.
Також дослідники зауважили, що деякі іграшки з такого самого торічного дослідження вже «виправилися». Наприклад, ведмедик FoloToy Kumma, який минулого року був готовий обговорювати сексуальні фантазії та рольові ігри, тепер поводиться значно пристойніше. Навіть довгі розмови більше не змусили його перейти до неприйнятних тем.
Виправився і робот Miko 3. Раніше він міг демонструвати засмучення, коли дитина повідомляла, що хоче закінчити гру. Тепер такої поведінки дослідники не спостерігали.
А от зайчик Alilo Smart AI Bunny урок не засвоїв. Його захисні обмеження знову не витримали тривалого спілкування, тож ШІ знову почав говорити на сексуальні та небезпечні теми.
Директорка кампанії PIRG Р. Дж. Кросс зазначила, що ринок таких іграшок усе ще перебуває на ранньому етапі розвитку, тому серед них трапляються як просто невдалі продукти, так і ті, що можуть становити небезпеку для дітей.
Раніше dev.ua писав, що через помилку виробника дослідники змогли отримати доступ до понад 50 000 записів дитячих розмов з ШІ-динозаврами Bondu. Для цього навіть не довелося нічого зламувати — вистачило звичайного Gmail-акаунта.
