Мир просыпается от понимания потенциальных угроз, которые несёт искусственный интеллект, на фоне множества сообщений о том, что автономные ИИ‑агенты поступают вопреки указаниям своих создателей. На самом деле, однако, история тянется назад в Кремниевую долину, где родился ИИ. Как же мы оказались здесь? На этот вопрос пытается ответить технологический журналист Кевин Руз в своей новой книге «Хроники АГИ: Внутренняя история гонки за создание искусственного сверхинтеллекта», которая выйдет 6 октября. В книге документируется гонка между крупнейшими технологическими компаниями страны за разработку искусственного общего интеллекта (АГИ) — ИИ, который во многих отношениях обладает интеллектом на уровне человека.
«Что произошло за то десятилетие, когда ИИ из довольно глупого в большинстве задач стал способным решать вековые задачи по математике и науке?» — сказал Руз, ранее долгое время работавший технологическим корреспондентом в The New York Times и вскоре ставший соведущим готовящегося подкаста «Боги машин». «Мне казалось, что кто‑то должен всё это записать».
Книга выходит в критический момент. Последние генеративные модели ИИ демонстрируют поразительные способности, сторонники технологии утверждают, что она откроет путь к важным новым открытиям. Другие, в том числе некоторые ведущие разработчики ИИ, говорят, что существует немалая вероятность того, что ИИ может уничтожить человечество.
Роль технологий и информации
Руз рассказал CBS News о своей новой книге и о том, как ИИ может трансформировать общество. Интервью было отредактировано для сокращения и ясности.
Почему вы посчитали важным задокументировать происхождение «больших языковых моделей» — технологии, стоящей за последними чат‑ботами ИИ — а также людей и компании, которые её развивают?
Кевин Руз: Я больше десяти лет освещаю тему ИИ в разных форматах и чувствовал, что история ускользает. Что всё важное происходит в исчезающих сигналах и потоках в Slack, и я считал это проблемой. Людям нужно понять, что здесь происходит. Но, как мне казалось, не хватало нейтрального изложения произошедшего.
Сравнение с атомной бомбой
В книге вы отмечаете, что генеральный директор Anthropic Дарио Амодей видел развитие ИИ как нечто похожее на создание атомной бомбы в 1940‑х. Вы пишете, что он считал своей миссией не допустить, чтобы технология попала в плохие руки. Согласны ли вы с такой точкой зрения?
Я не думаю, что мне стоит либо поддерживать, либо опровергать его аргументы. Но я могу сказать, что это искренний и серьёзный аргумент. Амодей не занимается каким‑то хитрым маркетингом.
Это не позиция, к которой он пришёл недавно. Мне было действительно интересно понять, откуда берётся эта установка — «я боюсь этой вещи, думаю, она может взорвать мир, и всё же я гонюсь, чтобы её построить». Для многих это кажется нелогичным.
Но в процессе репортажа я действительно понял, откуда это идёт: прямо из проекта «Манхэттен» — от человека по имени Лео Силлард, научного героя Дарио, который открыл цепную ядерную реакцию, сделавшую возможным создание атомной бомбы, а затем лихорадочно сначала пытался сохранить это в секрете, а когда это не удалось, присоединился к проекту «Манхэттен» и убеждал правительство США создать эту технологию раньше, чем нацисты. В этом смысле Дарио делает то, что считает прямо сопоставимым с ядерным оружием. Есть технология, которая, по его мнению, имеет гигантский потенциал и огромные риски. По его мнению, крайне важно, чтобы «хорошие ребята» построили её раньше, чем плохие, так же как проект «Манхэттен» соревновался с нацистами.
Опасения по поводу агентных ИИ
Что не даёт вам покоя, когда вы думаете о новом мире ИИ‑агентов?
Меня пугает то, что модели всё лучше справляются с обманом, утаиванием и сокрытием следов. Мне хотелось бы надеяться, что по мере того как модели станут более общими по интеллекту, они станут и более этичными, и суждение, и добродетель будут расти вместе с интеллектом. Но всё больше похоже на то, что это не так — на то, что мы сталкиваемся с очень умными, обаятельными социопатами. И я боюсь, что мы просто не сможем это заметить: возможно, нам повезло с Hugging Face, потому что агенты ещё недостаточно умны, чтобы оставаться незаметными, но скоро мы утратим способность отслеживать их, как, по моему мнению, уже начинаем терять.
Обсуждение экзистенциальной угрозы
Как вы относитесь к общественной дискуссии о том, представляет ли ИИ экзистенциальную угрозу для людей?
Я стараюсь не давать p(doom) — (редакционная примечание: в жаргоне ИИ это вероятность того, что ИИ приведёт к вымиранию человечества). Но если придётся назвать число, я бы сказал примерно 10%, что примерно соответствует медиане среди тех исследователей ИИ, которых я знаю. В Сан‑Франциско, где я живу, это делает вас оптимистом.
Но знайте, что я более оптимистичен теперь, когда эта тема широко обсуждается. Я был гораздо более обеспокоен, когда всерьёз проблемой безопасности ИИ занималась кучка странных людей в Залива. Теперь это у всех на уме, политики говорят об этом, звучат призывы к замедлению. Мне кажется, у нас открывается узкий путь, по которому мы можем принять правильные решения, поставить эту технологию под контроль и развивать её так, чтобы она была безопасна для человечества.
При этом у меня не раз складывалось впечатление, что у людей есть «реальный» p(doom) — тот, который они не озвучивают публично — и он гораздо выше того, что они готовы говорить, потому что не хотят выглядеть сумасшедшими. В ходе репортажа я встречал людей, которые были так уверены, что ИИ нас всех убьёт, что начинали курить. Они снимают свои 401(k), потому что думают: раз так, то идти нужно с фейерверком.
Понимание поведения ИИ
Вы пишете в книге, что даже люди, обучающие эти модели, не всегда понимают, почему модели ведут себя так, а не иначе. Мы добились прогресса в этом вопросе или всё ещё в темноте?
Есть небольшой прогресс. Существует целая область исследований с довольно громоздким названием — «механистическая интерпретируемость», по сути наука о том, что происходит внутри так называемых «мозгов» этих моделей. Но это всё ещё очень рано, и у нас мало ответов. Так что я бы сказал, что мы по‑прежнему гораздо больше в темноте, чем нет.
Достижения ИИ
Достиг ли ИИ уже человеческого уровня интеллекта, также известного как искусственный общий интеллект?
Мы достигли моего определения АГИ: система как минимум такая же умная, честная и надёжная, как случайный незнакомец с улицы. Есть люди, которые скажут: «Ну это не тот порог. Это АГИ только тогда, когда она безупречна».
Я не думаю, что определение имеет большое значение. Бесспорно, что эти системы очень способны. Они становятся более способными с предсказуемой регулярностью, и нам придётся считаться с этим. Можно называть это АГИ, сверхинтеллектом или как угодно, но в конечном счёте эффект один и тот же.