Искусственный интеллект может быть непостижимым даже для экспертов в этой области. В своем эссе нейробиолог из Принстона Аарон Борнштейн так пишет о нейронных сетях: «Никто не знает точно, как они работают. А значит — никто не может предсказать, когда они выйдут из строя». Если речь идет о системе медицинской диагностики, последствия для человека могут быть серьезными.
А если работу ИИ невозможно понять, ее невозможно и выразить в языке, если придерживаться мнения Людвига Витгенштейна, который еще в начале XX века писал в своем «Логико-философском трактате», что «границы моего языка есть границы моего мира».
Это мнение разделяет и Риота Канаи, нейробиолог и глава стартапа Araya, говоря, что «при всей сложности современных нейронных сетей мы с трудом можем понять, как ИИ принимают решения, и еще меньше можем перевести этот процесс на язык, понятный человеку». Именно поэтому он и его коллеги хотят, чтобы машины изобрели собственный язык. А разработчики станут переводить «сказанное» машинами на язык, доступный людям.
При этом учить человеческий язык машинам не нужно, поскольку это сопряжено с большими сложностями для искусственного интеллекта и, даже если он освоит его, то все равно не сможет выразить себя в нем, пишет Quartz.