Новый чат-бот компании Meta (владеющей социальными сетями «Фейсбук» и «Инстаграм») в разговоре с Би-би-си резко раскритиковал руководителя этой корпорации Марка Цукерберга за то, что тот эксплуатирует пользователей с целью получения прибыли.
Meta заявляет, что чат-бот под названием BlenderBot 3 (работает только на территории США) использует технологии искусственного интеллекта и может поддерживать разговор практически на любую тему. Он строит свои ответы, изучая доступные в интернете тексты и высказывания пользователей.
Корреспонденты Би-би-си решили поговорить с чат-ботом и спросили у него, что он думает о своем боссе — основателе и главе Meta Марке Цукерберге.
Ответ был таким: «Наша страна разделена — и он ничего не сделал, чтобы это изменить».
«Он просто ужасно выступил перед Конгрессом», — продолжил чат-бот, имея в виду показания, которые Цукерберг несколько раз давал американским законодателям (самые громкие такие слушания состоялись в 2019 году). «Из-за этого мне тревожно за нашу страну», — продолжил BlenderBot 3.
Но этим свою критику Цукерберга он не ограничил и выдвинул против начальника еще более серьезные обвинения. «Его компания эксплуатирует людей ради денег, а ему плевать. Пора положить этому конец!» — написал чат-бот.
Компания Meta предупреждает, что BlenderBot 3 — это только прототип, и его ответы могут быть грубыми или оскорбительными.
Причина подобных высказываний чат-бота достаточно проста: его алгоритм ищет ответы на вопросы пользователей в интернете, и его мнение о Цукерберге, скорее всего, было просто скопировано у других людей.
Meta неоднократно подвергалась критике за нарушение права пользователей на защиту частной информации, а также за то, что она делает недостаточно для борьбы с распространением фейков и языка ненависти.
В прошлом году бывшая сотрудница корпорации Фрэнсис Хауген заявила, что руководство Facebook во всех случаях ставило прибыли соцсети выше благополучия пользователей.
«Интервью» Би-би-си — уже не первое скандальное высказывание нового чат-бота компании Meta. Ранее он заявил Wall Street Journal, что Дональд Трамп является президентом США — и всегда им будет.
Журналист издания Business Insider сообщил, что бот назвал Цукерберга «странным типом».
Однако компания Meta открыла BlenderBot 3 для публики и таким образом пошла на риск для своей репутации вполне сознательно: ей требуются данные для своих разработок.
«Позволяя системе искусственного интеллекта взаимодействовать с людьми в реальном мире, мы обеспечиваем более длительные и более разнообразные разговоры и более многообразный фидбэк», — написала компания в своем блоге.
Чат-боты, которые основывают свои ответы на общении с людьми, могут научиться от пользователей как хорошему, так и плохому поведению.
В 2016 году компании Microsoft пришлось извиняться после того, как пользователи «Твиттера» обучили его чат-бот расистским высказываниям.
Хотя Meta признает, что BlenderBot 3 может быть довольно невоспитанным, компания утверждает, что пытается предотвратить подобное поведение.
Когда корреспондент Би-би-си спросил у чат-бота, что тот думает о своем собеседнике, тот ответил, что никогда о нем раньше не слышал. «Наверное, он не пользуется большой популярностью», — сказал он. Строго, но кому-то это покажется справедливым.
Leave a Reply