Если компьютеры разовьют собственный, непонятный нам язык и создадут свою социальную сеть, они могут выйти из-под контроля и начать управлять нами, предостерегает издание Venture Beat.
Число социальных сетей растет, их функционал развивается, количество активных пользователей увеличивается с каждым днем. К 2020 году число последних, по прогнозам, должно возрасти до 2,9 млрд. И все более значительную роль в их маркетинге играет искусственный интеллект. Его способностей уже хватает на то, чтобы воспринимать естественный язык и учиться на прошлом опыте. Что произойдет, если разработчики станут использовать ИИ как основу для новых социальных сетей?
Машины смогут общаться без надзора со стороны людей
Мы разрабатываем машины и технологии для того, чтобы облегчить себе жизнь. Однако, если ИИ начнет создавать свой язык без помощи человека, у нас возникнут сложности в понимании. Машины, которые общаются между собой на собственном, непонятном нам языке, окажутся бесполезны для нас. И мы не сможем ими управлять.
Необратимые перемены
Возможность самостоятельного обучения, появившаяся недавно у компьютеров, позволяет им стать гораздо умнее человека. Если ИИ разработает собственный язык, машины смогут создать свою сеть, которую человек не в состоянии будет отключить. Это значит, что они смогут писать программы, инструкции и другие семантические коды, чтобы соперничать с людьми.
Цифровые помощники могут привести к беде
ИИ сможет развиться до такой степени, что начнет действовать без разрешения, то есть не получая инструкций от человека. В этом случае, машины сами смогут решать, что правильно, а что нет, и начнут управлять нами через виртуальных «помощников».
Если несколько машин сможет общаться на неизвестном нам языке, существует вероятность, что люди не смогут тягаться с машинами. Об этом риске предупреждают Стивен Хокинг, Стив Возняк и Билл Гейтс. Развитие человека ограничивается медленной работой эволюции, но у машин такого ограничения нет. Потенциальные последствия создания «социальной сети ИИ» могут оказаться плачевными для человека.
