Обновлённые ресурсы

С момента публикации этой статьи прошло много времени. Мы рекомендуем прочитать книгу If Anyone Builds It, Everyone Dies Элиезера Юдковского, отражающую более современный взгляд учёных на вопросы, связанные с искусственным интеллектом умнее человека. На русском доступна книга Совместимость: Как контролировать искусственный интеллект Стюарта Рассела. Также рекомендуем описание проблемы от MIRI, ресурс AI Alignment Problem и AI safety wiki.

Когда-нибудь, уже в этом столетии, машины превзойдут человека в плане интеллекта и возможностей. Это событие, уже получившее название «Сингулярность» станет самым важным в нашей с вами истории, а мудрое управление этим событием будет самым важным, что суждено нам когда-либо сделать.

Многие светлые умы, от Алана Тьюринга (Alan Turing) и Джека Гуда (Jack Good) до Билла Джоя (Bill Joy) и Стивена Хокинга (Stephen Hawking), предупреждали нас об этом. И это событие не зависит от того, насколько распространено особое мнение Рэя Курцвейла (Ray Kurzweil) о Сингулярности как об «ускоряющихся изменениях». Почему я считаю, что Хокинг и компания правы? Что нам стоит предпринять по этому поводу?

Статья, озаглавленная «Перед лицом Сингулярности», представляет собой мою попытку ответить на эти вопросы.

Перед лицом Сингулярности

Обновлённые ресурсы

Оглавление