Почему Терминаторы нам пока не страшны
TRANSCRIPT
О перспективах развитияискусственного интеллекта
илиПочему Терминаторы нам пока не страшны?
Обзор идей
Крылов Дмитрий, [email protected]
2
Развитие ИИ: плюсы и минусы
● Развитие технологий:
– развитие ИИ
– преимущества ИИ
– опасности ИИ
3
Технологическая сингулярность
4
Технологическая сингулярность
5
Технологическая сингулярность
● Технологическая сингулярность — гипотетический момент, после которого:
– технический прогресс станет настолько быстрым и сложным, что окажется недоступным человеческому пониманию.
● после создания ИИ, интеграции человека с компьютерами,● и/или после значительного скачкообразного увеличения
возможностей человеческого мозга за счёт биотехнологий.– случится внезапно (из-за природы экспоненциальной кривой).
● Прогноз:
– Вернор Виндж: 2030 год
– Рэймонд Курцвейл: 2045 год
– Стюарт Армстронг: 2040 год (медианная оценка экспертов)
6
Примеры роста
● Игры:
– Шашки: 1994 год победа над чемпионом.
– Нарды: с 1992 года непобедима в принципе.
– Шахматы: с 1997 года победа DeepBlue.
– Го: достигла6-го дана(уровень хорошегоигрока,всего 9 данов)
7
Примеры роста
● Автопилот самолётов.
● Автомобили Роботы Boston Dynamics.
● Автоматические межпланетные станции.
● Медицинскаядиагностика.
● Автоматическийтрейдинг.
8
Примеры роста
● Извлечение рефератов
● Автоматическая обработка резюме и вакансий
– примеры наwww.emply.ru
● Сочинение стихов
● Сочинение музыки
9
Безграничность развития ИИ
● «Роботы не устают»
● «Роботы не ошибаются»
● Можно беспредельно наращивать вычислительную базу.
10
Плюсы развитого ИИ
● Расцвет роботостроения.
– роботы как идеальные слуги, помощникии даже друзья
● Экономический взрыв.
– роботы-работники просто копируются, нет нужды в 20 годах учёбы.
– упрощение экономических связей:нет нужды в чиновниках.
● Усовершенствование человека и человечества.
– автоматические открытия в области строения человека, автоматическая медицина.
– киберимплантанты и невероятные способности в восприятии, запоминании, взаимодействии.
● Бессмертие
– mind uploading: загрузка сознания в компьютер.
– успехи медицины.
11
Минусы развитого ИИ
● Безработица
– Человек в современном понимании просто не нужен. Толпы бессмертных бесполезных людей?
● Разрушение окружающей среды
– Роботам не нужна современная окружающая среда
12
Минусы развитого ИИ
● Войны с роботами
– The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else. // Eliezer Yudkowsky, Artificial Intelligence as a Positive and Negative Factor in Global Risk
13
Промежуточные выводы
● Похоже, технологическая сингулярность уже скоро.
● Развитие ИИ может принести как огромную пользу,так и несравнимый ни с какими предыдущими катастрофами вред.
● Человек, предполагается, не сможет угнаться за прогрессом.
14
Критика: общий обзор идей
● Интерес к ИИ волнами:
– 50-ые годы: первые компьютеры и шахматные программы.
– 70-ые годы: экспертные системы.
– 90-ые годы: нейросети, ГА, распознавание изображений.
– 10-ые годы: развитой Интернет.● Откуда страх? Проекция человеческих качеств: непонятное, значит,
враждебное.
– Щекотка нервов: Глобальное потепление, ГМО, а теперь ещё и ИИ.
● Предсказание через линейную экстраполяцию.
– ИИ как сверх-развитый человек.
15
Критика: общий обзор идей
● Несколько конкурирующих ИИ
– аналог «ядреного сдерживания».
– ИИ, принадлежащий «золотому миллиарду».
– распределённый, неуправляемый ИИ.● Философский ИИ.
– зачем ему развиваться?
– в чём смысл его существования?
– зачем уничтожать людей?
16
Критика: сингулярность
● Развитие как логистическая кривая.
● Замедление началось в 70-ых годах.
17
Критика: сингулярность
● Пример: развитие космонавтики
18
Критика: ИИ
● Проблемы с законом Мура:
– второй закон Мура: стоимость фабрик по производству микросхем экспоненциально возрастает с усложнением производимых микросхем(производство памяти в 1 кбит: $4 млн, производство Pentium: $2 млрд).
● Проблемы с распределённым ИИ:
– низкая скорость Интернета,● Ассоциативная память:
– проект OpenCyc● Количественное наращивание мощности не приводит к качественному
скачку:
– Microsoft Word 2013 для Intel Core 7 принципиально не отличается от Microsoft Word 1.0 для процессоров 8086, и так и не превратился в «электронного секретаря».
19
Критика: моделирование мозга
● Проект OpenWorm (нематода Caenorhabditis elegans), 302 нейрона:
– удалось смоделировать простейшие рефлекторные реакции с одним нейроном (!), не удалось смоделировать электронные, механические и т.д. реакции.
– человеческий мозг: ≈86 000 000 000 нейронов● Скорость:
– Нейроны: 102 Гц.
– Микротрубочки нейронов: 107 Гц (у современных компьютеров 1010 Гц).● Сверхпараллельность (коннектоо́м):
– Нематода C.elegans:302 нейрона, 7000 связей.
– Человеческий мозг:≈86*109 нейронов, 1014 связей.
– Нейрокомпьютеры:≈10240 нейронов, 40960 связей.
20
Критика: ИИ
● Неспособность доказывать теоремы
– простейшие SMT-солверы в логике предикатов первого порядка,
– полуавтоматическое доказательство теорем.● Проблемы с самопрограммированием
– все «программы-обыгрыватели» написаны человеком,
– современные самообучающиеся программы демонстрируют лишь «рефлекторное поведение».
21
Критика: ИИ
● Проблемы с пониманием текста
– проблемы с переводом,
– проблемы с извлечением данных,
– проблемы с пониманием смысла.● Проблемы с человеко-машинным взаимодействием
– неспособность человека понять сложный логический вывод.
22
Критика ИИ: теория разума?
● Hard Problem: до сих пор не понятно, что такое сознание, разумное поведение, интеллект.
– Известен только один вид существ с интеллектом.
– Моделирование(например,нейросетей)напоминаеткарго-культ.
23
Черные лебеди и эффект индейки
● Будущее непредсказуемо
– невозможно предсказать изобретения(иначе это и было бы изобретением)
● Поэтому все прогнозы футурологов крайне редко сбываются
– Рэй Курцвейл: ≈25% «попаданий».● По видимому, ИИ и Технологическая
Сингулярность примут крайненеожиданные формы и приведутк крайне необычным последствиям.
– Но a posteriori это будет казатьсясамым естественным ходомразвития, как это случилось странспортом, связью, компьютерамии Интернет.
24
Перспективы человечества
● Развитие человеко-машинных интерфейсов
– в том числе, нейро-компьютерных● Трансгуманизм
– Генетические улучшения
– Биотехнологии● Когнитивистика:
– теория познания,
– когнитивная психология,
– Нейрофизиология,
– когнитивная лингвистика,
– теория искусственного интеллекта.
25
Заключение
● К сожалению, перспективы ИИ не настолько радужны, как обещает популярная пресса.
– однако, можно ожидать дальнейший прогресс технологий ИИ, к которому следует быть готовым.
– по видимому, существенный прогресс будет после разработки понимания текста и действительности, а также после разработки теории разума.
● Решение Hard Problem будет «бомбой» по сравнению со всеми человеческими открытиями, и полностью поменяет наши взгляды на себя и Вселенную.