Свет глаз драконов

#Светглаздраконов #Amnuel
Ссылка на выпуск:
https://youtu.be/wtBK5Icu5gE

По сабжу. То, что некоторые люди мыслят хуже машины, и не имеют мотивов решать человеческие задачи не делает ИИ равным Человеку. Или умнее его.
Ну и человек с интеллектом 60 не может написать героя с интеллектом 160. Поэтому посмотрите на машины вокруг вас, на механизмы вокруг вас. Они же безалаберно сделаны. Все программы работают херово. Почему? Потому что их сделали херовые люди. И эти же люди, с теми же херовыми целями, сделают такой же убогий, как они сами, ИИ.

Павел Амнуэль

Очередной выпуск цикла «Наука и научная фантастика на канале YouTube. Тема «Искусственный интеллект — друг или враг?».

Надо уточнить: ИИ на самом деле интеллектом в нашем обычном понимании не обладали и не обладают до сих пор. Это очень сложные кибернетические системы, во многих случаях моделирующие сложнейшие нейросети. Однако ИИ– шахматист ничего не знает об игре в Го, а ИИ-водитель не умеет отличить ямб от хорея.
Страхи фантастов по поводу того, что ИИ в будущем захватит власть над миром, занимают теперь ученых, инженеров, предпринимателей и даже политиков. Качественный скачок подготовлен, назрел и вот-вот произойдет. Завтра системы с искусственным интеллектом станут умнее и сильнее нас во всех отношениях – и что тогда?

Насколько риск реален? Чтобы ответить на этот вопрос, нужно ответить на вопрос более общего характера: сможет ли ИИ ставить перед собой личные цели, ни в коей мере человеком не определяемые?
Если некто (человек, а не ИИ) совершил убийство, это означает одно из двух: либо он обдумал свои действия заранее, то есть ставил перед собой цель – убить ближнего своего, либо действовал в состоянии аффекта, под влиянием внезапных страстей.

Потенциальный убийца должен, по идее, обладать сознанием и самосознанием, должен захотеть совершить убийство. Умение независимо ставить перед собой цель, заранее не заложенную в программе поведения, – к этому должен прийти ИИ, если мы говорим, что он когда-нибудь решит избавиться от человечества. ИИ должен поставить перед собой цель – власть над миром. Человечество мешает достижению этой цели. Это мотив для убийства.

Фантасты много писали (и пишут) о желании ИИ получить власть над миром. Зачем? «Я такой умный, а люди такие глупые, – рассуждает ИИ. – Почему я должен выполнять их команды, а не они – мои?» То есть, ИИ должен обладать чувством превосходства, чувством гордости, чувством собственного достоинства. То есть, обладать самосознанием, да и просто сознанием, способностью понимать себя и людей, способностью эмоционально оценивать собственные мысли, поступки.
Человек всему этому научился в процессе эволюции, продолжавшейся (и продолжающейся) миллионы лет. ИИ должен пройти этот путь за считанные годы или десятилетия. Ту же борьбу за «место под солнцем» с другими ИИ. Развить в себе сознание и самосознание, заранее не заложенные программистами – хотя бы потому, что мы сейчас и сами не знаем, что представляет собой наше сознание (и тем более – самосознание). До сих пор ведутся споры о том, является ли сознание результатом биохимических процессов в мозгу, или сознание – нечто внешнее по отношению к мозгу, нечто, зависящее от биохимии мозга, но не определяющееся полностью физико– химическими реакциями. Саморазвивающийся суперинтеллект будет много умнее человека, но пока ни в каких исследованиях нет ни малейших доказательств того, что ИИ будет обладать самосознанием, ни малейших данных, которые могли бы сказать: придет момент, и ИИ осознает себя… кем? Нет никаких доказательств того, что ИИ будут доступны эмоции и чувства: чувство собственного достоинства, чувство превосходства, зависти, наконец – а без этого сугубо рациональный интеллект вряд ли задумается о том, что хорошо бы стать правителем и убрать с дороги всех, кто этому мешает.

Разумеется, создатели ИИ все это прекрасно понимают. В нынешнем развитии того, что мы называем ИИ, нет ни одной реальной тенденции, которая в будущем (при попустительстве производителей ИИ) привела бы к тому, что у ИИ появится цель – уничтожить человечество и получить власть над миром.

Обсуждение проблем искусственного интеллекта и небольшой научно-фантастический рассказ «Я — виновен!» — в программе «Наука и научная фантастика». Ссылка в первом комменте.

Добавить комментарий

Заполните поля или щелкните по значку, чтобы оставить свой комментарий:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход /  Изменить )

Google photo

Для комментария используется ваша учётная запись Google. Выход /  Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход /  Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход /  Изменить )

Connecting to %s