«Мы создаем мозг для всего мира», — такие слова написал в своем блоге Сэм Альтман, один из создателей и руководитель компании OpenAI. Этим летом он опубликовал визионерский текст, в котором рассуждает о том, как изменится жизнь людей буквально в ближайшие пару десятилетий. Человек, возглавляющий, вероятно главную на сегодня технологическую компанию мира, уверен, что искусственный интеллект уже открыл эпоху сингулярности, которая изменит все. Правда, уверен Альтман, эта сингулярность будет «мягкой» — то есть мы сами не заметим, как окажемся совершенно в другом мире. Пересказываем основные мысли этого программного текста.
Мы прошли горизонт событий — взлет начинается. Человечество на пороге создания цифрового суперинтеллекта. Более того, пока он выглядит куда менее странным, чем, казалось бы, должен.
Да, роботы пока не гуляют по улицам, а большая часть человечества не болтает с ИИ целыми днями. Безусловно, люди все еще умирают от болезней, не могут запросто полететь в космос, а во Вселенной есть масса вещей, о которых мы не имеем понятия.
Тем не менее совсем недавно мы создали системы, которые намного умнее людей (во всяком случае, во многих отношениях) и способны значительно усиливать производительность последних. Более того, самая неправдоподобная часть пути уже пройдена! Научные открытия, которые привели нас к созданию таких алгоритмов, как GPT-4 или GPT-o3 дались людям непросто, но они обещают нам долгий путь.
ИИ будет влиять на нашу жизнь самыми разными способами — преимущества, которые он даст нам, обещают быть колоссальными. Будущее будет намного лучше настоящего. Научный прогресс является двигателем для развития всего человечества. Дух захватывает от мысли о том, что мы еще можем получить.
К 2025 году у нас появились агенты, которые могут выполнять настоящую мыслительную работу. К примеру, процесс написания компьютерного кода уже никогда не будет прежним. В 2026 году мы, скорее всего, увидим алгоритмы, которые будут способны придумывать новые идеи [а не копировать или модифицировать уже известные, – прим. Собака.ru]. В 2027-м могут появиться системы, которые смогут выполнять задачи уже в физическом, а не в виртуальном мире.
Во многих (самых важных) аспектах 2030-е годы будут похожи на предыдущий период в истории человечества. Мы по-прежнему будем любить свои семьи, творить, играть в игры, плавать в озерах.
В остальном предстоящее десятилетие будет очень сильно отличаться от любого другого в предыдущей человеческой истории. Мы еще не знаем, как далеко мы можем выйти за пределы стандартного уровня человеческого интеллекта, но твердо намерены это выяснить.
В 2030-х интеллект и энергия (то есть идеи и возможность их воплотить в жизнь) станут невероятно доступными. Дефицит этих двух факторов веками был фундаментальным ограничителем для человеческого прогресса. Теперь, когда этот ограничитель исчезнет, мы (как минимум в теории) можем все.
Мы уже живем в одном мире с невероятным цифровым интеллектом, но... после первого шока большинство людей к нему привыкли. От удивления из-за того, что ИИ сгенерировал прекрасно написанный абзац, мы переходим к изумлению от того, что он предложил нам отличный роман; или от удивления от правильно поставленного ИИ диагноза, к изумлению от найденного им нового лекарства. Так и выглядит сингулярность — чудеса становятся рутиной.
Ученые уже говорят, что стали в 2–3 раза продуктивнее, чем во времена, предшествовавшие появлению ИИ. Продвинутый искусственный интеллект интересен по многим причинам, но, пожалуй, ни одна из них не сравнится с тем, как он ускоряет исследования в области… самого ИИ. Раз мы можем за год сделать то, что раньше требовало десяти лет, то и темпы прогресса оказываются совершенно иными.
Отныне инструменты, которые мы уже создали, будут нам помогать двигать исследования вперед и создавать еще более продвинутый ИИ. Конечно, это пока не искусственный интеллект, который эволюционирует, самостоятельно обновляя свой код, но мы уже видим зачаточную стадию такого рекурсивного самосовершенствования алгоритмов.
В этой игре работают самоусиливающиеся циклы. Создание экономического профита от этих систем запустило процесс массового и комплексного строительства инфраструктуры под нужды ИИ. Так что роботы, которые будут строить других роботов, уже не за горами.
Даже если нам и придется построить первый миллион человекоподобных роботов старомодным способом, затем они сами смогут управлять всей цепочкой поставок — от добычи полезных ископаемых до управления заводами по строительству других человекоподобных роботов. Опять же, в этом случае темпы прогресса окажутся принципиально иными, чем те, к которым мы привыкли.
По мере совершенствования технологий центров обработки данных стоимость интеллектуальных ресурсов приблизится к цене электроэнергии. (Кстати, людей часто интересует, сколько энергии потребляет ChatGPT. Отвечаю, средний запрос потребляет около 0,34 ватт-час, что примерно соответствует энергопотреблению духовки чуть более чем за секунду, или энергосберегающей лампочки за пару минут. Кроме того, он потребляет около 0,000085 галлона воды — это примерно одна пятнадцатая часть чайной ложки).
Темпы технологического прогресса будут расти, но люди все еще могут адаптироваться к чему угодно. Да, будут сложные моменты — например, исчезновение целых классов профессий, – но мир будет становиться настолько богаче, что мы сможем рассмотреть для себя совершенно иные, ранее недоступные концепты устройства общества. При этом, вероятно, мы не придем к какому-то новому общественному договору сразу, однако через несколько десятилетий поймем, что постепенные изменения привели к масштабным отличиям нашей жизни от прошлого.
Если история нас чему-то и учит, то это тому, что мы найдем новые дела, которыми стоит заниматься, новые вещи, которые будем хотеть, и быстро освоим новые инструменты производства (как это было в промышленную революцию). Наши потребности будут меняться, но возможности будут расти так быстро, что мы сможем получить лучшее. Мы сможем создавать еще более чудесные штуки друг для друга. Вообще у нас есть любопытное стратегическое преимущество над машинами: мы «запрограммированы» на то, чтобы заботиться о других людях, в то время как на машины нам более или менее наплевать.
Крестьянин, который пару тысяч лет назад жил натуральным хозяйством, взглянув на то, чем занимаемся мы, сказал бы, что наша работа не настоящая, что мы просто играем в игры, чтобы занять время (ведь у нас полно еды и самых невообразимых для него благ). Надеюсь, что через пару тысяч лет люди будут жить так, что мы сказали бы, у них нет настоящей работы, им не надо бороться за выживание. В то же время люди будущего будут считать свои дела невероятно важными и приносящими им чувство удовлетворения.
Скорость появления новых чудес колоссальна. Сейчас уже сложно представить, что мы сможем в 2035 году. Перейдем ли мы от открытия тайн физики высокой энергии всего за год к колонизации космоса? Или от прорывов в материаловедении к созданию интерфейсов «мозг-компьютер»?
Сейчас, когда мы пытаемся заглянуть в будущее, это кажется трудным для понимания. Тем не менее перспективы не только волнуют — они вполне реальны. С релятивистской точки зрения сингулярность наступает постепенно. Мы идем по длинной кривой технологического прогресса. У подножья она всегда кажется крутой, а если оглянуться назад — пологой. Тем не менее это одна плавная кривая.
Впрочем, нам еще предстоит столкнуться с серьезными сложностями. К примеру, нам еще предстоит решить проблему безопасности — как в смысле технологическом, так и в смысле социальном. Кроме того, принципиально важно обеспечить широкий доступ к возможностям цифрового сверхразума. Оптимальный путь тут может быть таким:
- Решить проблему согласованности, то есть мы можем надежно гарантировать, что заставим системы ИИ учиться и действовать в соответствии с тем, чего мы все вместе хотим в долгосрочной перспективе (ленты социальных сетей являются примером несогласованного ИИ — алгоритмы, которые их поддерживают, невероятно эффективны в том, чтобы заставить вас продолжать прокручивать и четко понимать ваши краткосрочные предпочтения, но они делают это, эксплуатируя что-то в вашем мозгу, что переопределяет ваши долгосрочные предпочтения).
- Затем нам предстоит сделать сверхинтеллект недорогим, широкодоступным и не слишком привязанным к какому-то конкретному человеку, компании или стране. Если нам удастся использовать коллективную волю и мудрость человечества, то мы будем вместе адаптироваться и учиться, чтобы получать максимум преимуществ и минимум проблем. Хотя, конечно, нам предстоит сделать много ошибок, а множество вещей будут идти не так.
Мы (я имею в виду всю индустрию, а не только OpenAI) создаем мозг для всего мира. Он будет максимально персонализированным и простым в использовании. Долгое время технические специалисты в стартап-индустрии подшучивали над «парнями с идеей» — людьми, у которых была концепция, и им нужна была команда для ее реализации. Теперь, мне кажется, таких людей ждет успех.
Интеллект, слишком дешевый для того, чтобы считать его стоимость, вполне достижим. Это может показаться безумным… но если бы в 2020 году вам рассказали бы о наших сегодняшних успехах, то это звучало бы еще безумнее. Так что давайте масштабировать наши успехи плавно, но экспоненциально. Без происшествий и с помощью сверхразума.
Комментарии (0)