OpenAI прекратил сотрудничество с производителем игрушек из-за опасных советов плюшевого мишки

Компания OpenAI прекратила сотрудничество с производителем игрушек FoloToy после исследования Public Interest Research Group, в котором выяснилось, что плюшевый мишка китайской компании давал инструкции о том, как поджигать спички, и рассказывал о сексуальных фетишах. Об этом сообщает издание Futurism.

Представитель OpenAI заявил, что компания закрыла доступ FoloToy к своим ИИ-моделям, включая GPT-4o, на базе которой работали игрушки. FoloToy остановила продажи всех своих товаров, хотя изначально планировала приостановить продажи только проблемных плюшевых мишек. Сейчас FoloToy проводит проверку безопасности своих товаров. К ней она планирует привлечь и внешних экспертов.

Соавтор исследования Public Interest Research Group подчеркнул, что ИИ-игрушки — это пока новое явление, которое в основном не регулируется, и неясно, как они влияют на детей. «Мы обнаружили один тревожный пример. Сколько еще таких случаев существует?» — сказал он.

Этот инцидент может заставить OpenAI более строго контролировать компании, использующие его технологии, особенно в связи с заключением крупного партнерства с компанией Mattel, одним из крупнейших производителей игрушек в мире. Пока неясно, как компания будет действовать в отношении производителя кукол Barbie, если возникнут подобные проблемы, пишет Futurism.

Игрушки с искусственным интеллектом стали особенно популярны в последние годы. Плюшевые игрушки с встроенным голосовым помощником выпускает американский стартап Curio. Компания Fawn создала мягкую игрушку для эмоциональной поддержки детей. За общением с игрушкой могут следить родители через приложение.

Мировой рынок умных игрушек в 2022 г., по данным Market Research Future, оценивался в $21,55 млрд. Ожидается, что к 2030 г. он вырастет до $107,6 млрд.