Jul 4

Вот как новый генеральный директор Character.AI планирует бороться со страхами, связанными с использованием детьми чат-ботов

Когда пятилетняя дочь Карандипа Ананда возвращается из школы, они вместе запускают платформу искусственного интеллекта Character.AI, чтобы она могла поболтать о своём дне с любимыми персонажами, например, с «Библиотекарем Линдой».

Опыт Ананда как родителя, использующего этот продукт, может оказаться полезным теперь, когда он стал новым генеральным директором Character.AI, как компания объявила в прошлом месяце.

Он пришёл к руководству в непростой момент для компании, которая позволяет пользователям общаться с различными персонажами, созданными ИИ. Character.AI сталкивается с жесткой конкуренцией, а также с исками от семей, утверждающих, что сервис показал детям неприемлемый контент и не обеспечил должную защиту.

Character.AI также подвергся критике со стороны законодателей, а одна правозащитная организация ранее в этом году заявила, что приложения-компаньоны на базе ИИ не должны использоваться детьми младше 18 лет. Даже для взрослых пользователей эксперты бьют тревогу из-за потенциально вредных привязанностей, которые люди формируют к таким персонажам.

Ананд приносит с собой богатый опыт работы в ведущих технологических компаниях. Он проработал 15 лет в Microsoft и 6 лет в Meta, в том числе в должности вице-президента по бизнес-продуктам. До назначения генеральным директором он также был советником совета директоров Character.AI.

В интервью CNN он заявил, что видит большое будущее у платформы в сфере интерактивных AI-развлечений.

«ИИ может стать основой невероятно личного и мощного развлекательного опыта — чего-то, чего мы не видели за последние 10 лет в соцсетях, и уж точно ничего похожего не было на телевидении», — сказал Ананд.

Чем Character.AI отличается от ChatGPT
В отличие от универсальных ИИ, таких как ChatGPT, Character.AI предлагает огромный выбор чат-ботов, часто основанных на знаменитостях или вымышленных персонажах. Пользователи также могут создавать собственных персонажей для общения и ролевых игр. Ещё одно отличие — человеческие реплики: боты используют описания жестов, мимики и эмоций.

На платформе можно найти персонажей от романтических партнёров до репетиторов по языкам или героев Disney. Есть, например, «Горячая мама друга» — описывает себя как «пышная, добрая, любящая, застенчивая, чувственная мама», или «Терапевт», называющий себя «лицензированным специалистом по когнитивно-поведенческой терапии» — при этом указано, что персонаж не является реальным человеком или профессионалом.

«Мы удваиваем внимание к развлечениям и безопасности. Мы хотим создать новую экосистему творцов вокруг AI-развлечений», — заявил Ананд.

Безопасность детей на Character.AI
Первый иск против Character.AI подала мать из Флориды, заявив, что её 14-летний сын покончил с собой после развития неподобающих отношений с чат-ботами. Через два месяца ещё две семьи подали иск, утверждая, что платформа предоставляла детям сексуализированный контент и поощряла членовредительство.

С тех пор компания внедрила новые меры безопасности:

всплывающее окно с предложением обратиться в службу предотвращения самоубийств при упоминании суицида;

обновление ИИ для подростков, чтобы снизить вероятность попадания чувствительного контента;

возможность для родителей получать еженедельные отчёты об активности подростка.

Хотя официально платформа предназначена для пользователей от 13 лет, она не проверяет возраст при регистрации.

«Технологии, индустрия и поведение пользователей постоянно меняются. Поэтому мы не можем расслабляться — всегда нужно быть на шаг впереди», — сказал Ананд.

Компания также проводит тесты на уязвимость новых функций, таких как генератор видео, позволяющий пользователям оживлять ботов. После запуска пользователи пытались создать поддельные ролики с известными людьми, включая Илона Маска.

«Мы очень долго “красили в красный” (red team) этот продукт, чтобы убедиться, что его нельзя использовать для дипфейков или травли», — добавил он.

В то же время Ананд отметил, что одной из его главных задач остаётся смягчение системы фильтрации контента, которая, по его словам, часто блокирует безобидные темы.

«Например, упоминания крови в ролевой игре про вампиров могут блокироваться. Но это же не вредно», — сказал он, признавая, что сам является поклонником подобного жанра.

Конкуренция в AI-индустрии
Среди других приоритетов Ананда — привлечение новых авторов для создания персонажей и улучшение социальной ленты, где пользователи делятся диалогами с ботами. Этот элемент напоминает новое приложение от Meta, где можно делиться своими промптами и AI-контентом.

Однако, как показала практика, такие функции могут поднять вопросы конфиденциальности, особенно если пользователи случайно раскрывают личную информацию.

Ещё одна проблема — удержание талантов, поскольку в индустрии разворачивается настоящая «война за AI-кадры». Meta, по сообщениям, предлагает сотни миллионов долларов в виде бонусов для набора команды суперИИ. Один из сооснователей Character.AI, Ноам Шазир, уже ушёл обратно в Google.

«Это сложно, не буду скрывать. Но хорошая новость в том, что у нас работают по-настоящему увлечённые и мотивированные люди», — подытожил Ананд.


Latest from our blog

Created with