о возможной войне искусственного интеллекта с естественным

Тема искусственного интеллекта в последнее время муссируется. И хотя до сколь-нибудь очевидного его воплощения пока явно не близко, уже поднимаются вопросы из области права и морали насчет того, что однажды этот самый ИИ может стать умнее человека — и чего тогда будем делать; а не захочет ли он всех нас истребить, и может, лучше загодя себя как-то обезопасить.. и т.д. и т.п.
Чем больше эта тема популяризируется, тем заметнее становятся опасения определенной части общества, назовем их скептиками. Отчасти я и себя к ним отношу. И поэтому мне кажется, что я понимаю, откуда на самом деле происходят такие опасения. Скепсис этот, по моему мнению, появился задолго до актуализации темы ИИ, а значит, в основе своей обусловлен чем-то иным.

В основном, скепсис этот — в отношении самого человека, а не машины, им создаваемой. Скепсис этот имеет очень глубокие и давние предпосылки историософского и философского качества.
Если считать, что человек создан вроде бы "по образу и подобию", но получился как-то "так себе", не очень (ведь мы интуитивно ощущаем, что могли бы быть лучше во всех смыслах), то чего ожидать от создаваемой человеком машины, пусть и с претензией на собственную разумность?
Если следовать чисто эволюционной логике, то также самому человеку еще есть куда развиваться, причем много куда. Но вместо этого, человек уже замахивается на то, чтобы самому выступать в роли создателя нового разума, по сути новой формы жизни (хотя с последним допущением пока большинство не согласится).
( Read more... )