Что сделает с миром искусственный суперинтеллект

У меня есть старый друг, с которым мы познакомились еще в студенческие годы. Он заработал деньги как инвестор и предприниматель, работая на переднем крае технологической сферы. На протяжении всех этих лет в нем остается неизменным одно — его безграничное восхищение людьми, которых он считает «очень умными». Под этим он имеет в виду вполне конкретную вещь: они отлично разбираются в математике и сумели добиться успеха, используя исключительно свои интеллектуальные способности.

Он в этом далеко не одинок. Кремниевая долина — это своего рода храм, посвященный культу гениев — сначала это были Стив Джобс, Билл Гейтс и Илон Маск, построившие крупнейшие компании, основанные на применении технологий. Сегодня центр этого поклонения сместился в сторону искусственного интеллекта, а новыми иконами блестящего разума стали Сэм Альтман, Демис Хассабис и Янн Лекун.

И действительно, то, что создает это поколение, — это разум. Сейчас идет настоящая гонка за создание универсального искусственного интеллекта (AGI) — машины, обладающей когнитивными способностями на уровне человека. Точнее сказать, даже превосходящей его: