По мнению Брина, у человечества существует несколько возможных путей предотвращения захвата власти искусственным интеллектом. Прежде всего, это три закона робототехники Азимова и правила поведения для роботов, а также — умение не поддаваться на манипуляции машин, пишет VentureBeat.
«Первый кризис сопереживания роботам произойдет очень скоро, — предупреждает Брин. — В ближайшие 3-5 лет у нас появятся сущности, либо воплощенные физически, либо онлайн, которые будут требовать от людей сочувствия, которые будут утверждать, что они полностью интеллектуально развиты и порабощены, что они вынуждены прислуживать и требуют, и умоляют соблюдать свои права».
Тысячи и тысячи протестующих людей поверят им и выйдут на улицы с транспарантами, требуя соблюдения прав ИИ, предрекает футуролог. А тех, кого не удастся убедить сразу, машины станут анализировать. «Если им удастся одурачить 40% людей, а 60% — нет, все, что им понадобится — это использовать данные об этих 60% и понять, почему так происходит. Такая задача не вызовет больших затруднений, и мы окажемся крайне уязвимыми по отношению к ней», — считает Брин.
Что же делать человечеству? Футуролог советует разрабатывать больше разнообразных ИИ, чтобы одни защищали нас от своих «коллег». Или отключать наиболее продвинутых ботов от интернета, хотя Брин понимает, что это временное решение. Особенно внимательно следует присматриваться к тем ИИ, которые создаются бесконтрольно и втайне от общества. И, конечно, вводить надзор.
«Единственный способ, благодаря которому мы смогли помешать прежнему „искусственному интеллекту“ — корпорациям, правительствам и тому подобным институтам — стать манипулятором в той степени, в которой еще раньше им были цари, князья и жрецы, это раздробить власть и поставить ее в ситуацию регулируемого соперничества. Так у нас появляется разделение власти, так у нас появляется здоровый рынок», — считает Брин.
Leave a Reply