Интервью с основателем DeepMind: архитектура AGI, состояние Агентов и научные прорывы следующего десятилетия

Оригинальный заголовок видео: Demis Hassabis: Агенты, ИИ общего назначения и следующий крупный научный прорыв

Источник видео: Y Combinator
Перевод оригинала: Deep潮 TechFlow

Редакционный вводный комментарий

Генеральный директор DeepMind, лауреат Нобелевской премии по химии Demis Hassabis посетил Y Combinator, обсудил ключевые достижения на пути к ИИ общего назначения, дал советы предпринимателям о том, как сохранять лидерство, и рассказал, где может произойти следующий крупный научный прорыв.

Самым практичным советом для стартаперов в области глубоких технологий является то, что если вы запускаете проект на десятилетие, необходимо учитывать появление ИИ общего назначения в своих планах. Также он раскрыл, что Isomorphic Labs (выделенная из DeepMind компания по разработке лекарств на базе ИИ) скоро объявит важные новости.

Цитаты и ключевые мысли

Пути и сроки достижения ИИ общего назначения

· «Практически все существующие технологические компоненты, скорее всего, станут частью окончательной архитектуры ИИ общего назначения.»

· «Проблемы с непрерывным обучением, долгосрочным рассуждением, памятью ещё не решены полностью, ИИ нужно всё это преодолеть.»

· «Если ваш график развития ИИ совпадает с моим — примерно 2030 год, а вы начинаете проект в области глубоких технологий сегодня, то нужно учитывать, что ИИ может появиться внезапно на полпути.»

Память и окно контекста

· «Окно контекста примерно равно рабочей памяти. У человека среднее рабочее запоминание — семь элементов, у нас есть окна с миллионами или десятками миллионов токенов. Но проблема в том, что мы туда засовываем всё подряд, включая неважную и ошибочную информацию, и это довольно грубый подход.»

· «Обрабатывая поток видео в реальном времени и сохраняя все токены, миллион токенов хватит примерно на 20 минут.»

Недостатки рассуждения

· «Мне нравится играть в шахматы с Gemini. Иногда он понимает, что сделал плохой ход, но не может найти лучшего, и в итоге делает его. А точная система рассуждений не должна так ошибаться.»

· «Он умеет решать задачи уровня золотой медали IMO, но при другом способе вопроса допускает ошибки начальной школы. В саморефлексии его мышления, кажется, чего-то не хватает.»

Агент и креативность

· «Чтобы достичь ИИ общего назначения, нужен активный системный агент, который сам решает задачи. Агент — это путь, и я считаю, что мы только начинаем.»

· «Я ещё не видел, чтобы кто-то использовал vibe coding для создания топовой 3A-игры, которая бы возглавила чарты. По текущим вложениям это возможно, но пока не случилось. Значит, инструментов или процессов ещё не хватает.»

Дистилляция и малые модели

· «Наше предположение: после выпуска передовой модели Pro через полгода — год её возможности можно сжать в очень маленькую модель, которая будет работать на периферийных устройствах. Пока мы не достигли теоретического предела информационной плотности.»

Научные открытия и «тест Эйнштейна»

· «Иногда я называю это «тестом Эйнштейна»: можно ли обучить систему знаниям 1901 года и заставить её самостоятельно вывести результаты, которые сделал Эйнштейн в 1905 году, включая специальную теорию относительности? Если да, то такие системы недалеко от настоящих инноваций.»

· «Решение одной задачи Millennium Prize — уже большое достижение. Но ещё сложнее — предложить новый набор задач Millennium, которые признаны ведущими математиками настолько же глубокими и достойными исследования всю жизнь.»

Советы по глубоким технологиям

· «Ищите сложные и простые задачи — разница только в способе сложности. Жизнь коротка, лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы не возьмётесь за них.»

Пути реализации ИИ общего назначения

Gary Tan: Вы размышляете о ИИ почти дольше всех. Исходя из текущих парадигм, сколько, по вашему мнению, мы уже обладаем окончательной архитектурой ИИ общего назначения? Что сейчас критически не хватает?

Demis Hassabis: Большое масштабное предобучение, RLHF, цепочки мышления — я уверен, что они станут частью финальной архитектуры ИИ. Эти технологии доказали свою ценность за прошедшие годы. Я не могу представить, что через два года мы обнаружим, что это тупик, для меня это невозможно. Но, основываясь на существующих подходах, возможно, ещё не хватает одного-двух элементов. Продолжительное обучение, долгосрочное рассуждение, память — есть нерешённые вопросы.

ИИ нужно всё решить. Возможно, существующие технологии с небольшими инновациями смогут расширить возможности до нужного уровня, но, скорее всего, потребуется ещё один-два ключевых прорыва. Я оцениваю вероятность наличия таких нерешённых ключевых моментов примерно в 50/50. Поэтому в DeepMind мы работаем по двум направлениям.

Gary Tan: Я взаимодействую с множеством систем агентных моделей, и меня удивляет, что базовые веса постоянно одни и те же. Поэтому концепция непрерывного обучения очень интересна — ведь сейчас мы используем временные «скотчи», вроде циклов ночных сновидений.

Demis Hassabis: Да, эти циклы сновидений очень крутые. Мы давно думали о интеграции сценической памяти. Мой докторский проект — как гиппокамп аккуратно внедряет новые знания в существующую систему. Мозг в этом очень хорош.

Он делает это во время сна, особенно в фазе быстрого сна (REM), повторяя важные переживания для обучения. Наш ранний Atari-бот DQN (глубокая Q-сеть, опубликованная DeepMind в 2013 году, впервые использующая глубокое обучение для игр Atari на уровне человека) освоил игры благодаря опыту повторного воспроизведения.

Это заимствовано из нейронауки — повторять успешные пути. Тогда это было 2013 год, в AI — древность, но очень важно.

Я согласен с тобой: сейчас мы действительно «склеиваем» всё на скорую руку. Всё помещаем в окно контекста. Это кажется неправильным. Теоретически, даже для машин, а не для биологических мозгов, можно иметь окно с миллионами или миллионами токенов, память — идеальную, но поиск и извлечение всё равно требуют ресурсов. В момент принятия решения найти действительно релевантную информацию — сложно, даже если всё сохранено. Поэтому я считаю, что в области памяти есть огромный потенциал для инноваций.

Gary Tan: Честно говоря, окно с миллионом токенов уже гораздо больше, чем я ожидал, и этого достаточно для многих задач.

Demis Hassabis: Да, для большинства сценариев этого достаточно. Но подумайте: окно контекста — это примерно рабочая память. У человека она в среднем — семь элементов, а у нас есть окна с миллионами токенов. Проблема в том, что мы туда засовываем всё подряд, включая неважную и ошибочную информацию, и это очень грубый подход. И если сейчас обрабатывать поток видео в реальном времени, то даже при миллионе токенов — это примерно 20 минут. Но если вы хотите, чтобы система понимала вашу жизнь за один или два месяца, этого всё равно недостаточно.

Gary Tan: DeepMind традиционно делает ставку на глубокое обучение и поиск. Насколько эта философия встроена в создание Gemini? Всё ещё недооцениваете важность RL?

Demis Hassabis: Возможно, да. Внимание к RL колеблется. Мы с самого основания DeepMind работаем над агентными системами. Всё, что было в Atari и AlphaGo — по сути, системы RL-агентов, способные самостоятельно достигать целей, принимать решения, планировать. Тогда мы выбирали игры, потому что сложность управляемая, и постепенно расширяли — AlphaGo, потом AlphaStar, — все игры, которые можно было сделать.

Следующий шаг — обобщить эти модели в универсальные модели мира или языковые модели, а не только игровые. Мы этим занимаемся уже несколько лет. Современные ведущие модели — это по сути переработка тех же идей, что и AlphaGo, только в более масштабных и универсальных формах, включая методы типа Монте-Карло поиска и другие подходы RL. Идеи AlphaGo и AlphaZero очень связаны с современными базовыми моделями, и я считаю, что значительный прогресс в ближайшие годы будет именно из этого.

Дистилляция и малые модели

Gary Tan: Сейчас, чтобы быть умнее, нужны большие модели, но одновременно прогресс в дистилляции позволяет создавать очень быстрые малые модели. Ваш Flash-модель очень мощная, она примерно на 95% по возможностям передовых моделей, при этом стоит в десять раз дешевле. Это так?

Demis Hassabis: Думаю, это один из наших ключевых преимуществ. Сначала нужно создать максимально крупную модель, чтобы получить передовые возможности. Наше главное преимущество — быстрое дистиллирование и сжатие этих возможностей в меньшие модели. Мы сами изобрели метод дистилляции, и сейчас остаёмся на вершине. У нас есть сильное бизнес-стимул делать это. Мы — одна из крупнейших платформ AI-приложений в мире.

Благодаря AI Overviews, AI Mode и Gemini, все продукты Google — карты, YouTube и др. — интегрируют Gemini или связанные технологии. Это сотни миллионов пользователей, десятки продуктов с миллиардной аудиторией. Они должны работать очень быстро, быть эффективными, с низкими затратами и минимальной задержкой. Это мотивирует нас делать Flash и более мелкие модели максимально эффективными, чтобы в конечном итоге это приносило пользу пользователям.

Gary Tan: Мне интересно, насколько умными могут стать эти маленькие модели. Есть ли предел у дистилляции? Могут ли модели 50B или 400B стать так же умными, как самые крупные современные модели?

Demis Hassabis: Не думаю, что мы достигли информационного предела, по крайней мере, пока никто не знает, есть ли он. Возможно, однажды мы столкнёмся с потолком плотности информации, но сейчас предполагаем, что после выпуска передовой модели Pro за полгода — год её возможности можно сжать в очень маленькую модель, которая будет работать на периферийных устройствах.

Вы можете видеть это на примере модели Gemma — наша Gemma 4 показывает очень хорошие результаты при меньшем размере. Всё это — результат масштабного дистилляции и оптимизации эффективности малых моделей. Поэтому я не вижу теоретического предела, и думаю, что мы ещё очень далеки от него.

Gary Tan: Сейчас наблюдается удивительный феномен — инженеры в два раза увеличили объём работы за последние полгода. Некоторые из них делают работу, которая в 2000-х годах занимала бы 1000 инженеров Google. Об этом говорил Steve Yegge.

Demis Hassabis: Это очень вдохновляет. Малые модели имеют множество применений. Во-первых, они дешевы и быстры, что тоже важно. В программировании и других задачах можно делать итерации быстрее, особенно при взаимодействии с системами. Быстрый цикл, даже если модель не самая передовая — 90-95% возможностей, — всё равно достаточно, чтобы выиграть в скорости итераций и получить преимущества.

Вторая важная задача — запускать эти модели на периферийных устройствах, не только ради эффективности, но и ради приватности и безопасности. Представьте устройства, обрабатывающие очень личные данные, роботы в доме: вы хотите, чтобы ваш домашний робот работал локально на мощной модели, а задачи передавались в облако только в исключительных случаях. Обработка аудио и видео локально, данные остаются у вас — это, я считаю, финальный сценарий.

Память и рассуждение

Gary Tan: Возвращаясь к памяти и контексту. Сейчас модели — без состояния. Если появится возможность постоянного обучения, как изменится опыт разработчика? Как вы будете управлять такими системами?

Demis Hassabis: Это очень интересный вопрос. Отсутствие постоянного обучения — главный барьер для полноценного агента. Сейчас агенты хорошо справляются с отдельными задачами, их можно соединять для более сложных, но они плохо адаптируются к конкретной среде. Поэтому они пока не могут «выстрелить и забыть» — им нужно учиться в реальном времени, подстраиваться под конкретные сценарии. Для достижения общего интеллекта это обязательно.

Gary Tan: А что с рассуждениями? Где мы сейчас? Текущие цепочки мышления очень сильны, но иногда модели совершают ошибки, которые не должны были бы допускать. Что нужно изменить? Какие ожидаете прогрессы?

Demis Hassabis: В области рассуждений ещё много пространства для инноваций. Мы делаем очень грубые и примитивные подходы. Можно улучшить, например, мониторинг цепочек мышления, вмешательство в процессе. Мне кажется, что наши системы и системы конкурентов иногда зацикливаются, слишком много думают, уходят в циклы.

Я люблю наблюдать за Gemini в игре в шахматы. Все современные базовые модели в шахматах довольно слабые, что интересно.

Анализ их мыслительных траекторий очень ценен, потому что шахматы — хорошо изученная область. Я быстро могу понять, отклонился ли ход или нет, насколько рассуждение логично. Иногда они делают ход, понимают, что он плохой, но не могут найти лучшего, и в итоге делают его. Точная система рассуждений не должна так ошибаться.

Такая разница всё ещё есть, но исправить её можно за один-два небольших изменения. Поэтому мы видим так называемый «зубчатый интеллект» — системы, которые с одной стороны решают задачи уровня IMO, а с другой — допускают ошибки начальной школы при другом способе формулировки. В саморефлексии их мышления, кажется, чего-то не хватает.

Реальные возможности агента

Gary Tan: Агент — это очень широкая тема. Кто-то считает, что это хайп. Я лично считаю, что мы только начинаем. Какое настоящее понимание о возможностях агентных систем есть внутри DeepMind? Насколько оно отличается от публичных заявлений?

Demis Hassabis: Полностью согласен, мы только начинаем. Для достижения ИИ общего назначения нужен активный системный агент, который сам решает задачи. Это всегда было нашим пониманием. Агент — это путь, и мы только начинаем.

Все ещё ищем, как лучше интегрировать агента в рабочие процессы. Внутри компании много экспериментов, и, думаю, у многих из вас тоже. Как сделать так, чтобы агент не был просто дополнением, а реально выполнял важные функции? Сейчас мы на стадии экспериментов. Только за последние пару месяцев начали находить действительно ценные сценарии. Технологии уже достаточно развиты, чтобы не было просто демонстрации, а чтобы агент реально экономил ваше время и повышал эффективность.

Я часто вижу, как запускают десятки агентов, которые работают часами, но пока не ясно, насколько это оправдано.

Мы ещё не видели, чтобы кто-то использовал vibe coding для создания топовой 3A-игры. Я сам делал небольшие прототипы, и многие из вас тоже. За полчаса я могу сделать прототип «Theme Park», тогда как в 17 лет я потратил на это полгода.

Чувствую, что если потратить целое лето, можно создать что-то действительно невероятное. Но всё равно нужен талант, душа, вкус — всё, что делает продукт живым. Пока никто не создал игру, которая бы продалась миллионами копий, хотя при текущих инструментах это вполне реально. Значит, чего-то не хватает — возможно, процессов или инструментов. В ближайшие 6–12 месяцев ожидаю увидеть такие результаты.

Gary Tan: Насколько это будет полностью автоматизировано? Думаю, не сразу. Вероятнее, сначала люди достигнут в 1000 раз большей эффективности, а потом появятся продукты, созданные с помощью этих инструментов, и автоматизация распространится дальше.

Demis Hassabis: Именно так. Это то, что вы должны сначала увидеть.

Gary Tan: Есть ещё одна причина — некоторые уже делают это, но не хотят публично говорить, насколько агент им помог.

Demis Hassabis: Возможно. Но я хочу поговорить о креативности. Часто вспоминаю AlphaGo — особенно второй матч, 37 ход. Для меня это был момент, когда я понял, что такие прорывы возможны. Тогда я запустил проекты вроде AlphaFold. Мы начали работать над ним сразу после возвращения из Сеула, это было десять лет назад. Сейчас я отмечаю десятилетие AlphaGo.

Но просто сделать ход 37 — недостаточно. Это круто, полезно, но сможет ли эта система изобрести саму игру? Если дать ей описание высокого уровня — «игра, которую можно выучить за пять минут, но овладеть которой невозможно за всю жизнь, эстетически изящная, завершить партию за один вечер» — и она вернёт вам результат — например, Го, — то сегодня системы этого не делают. Почему?

Gary Tan: Может, кто-то из присутствующих и сможет.

Demis Hassabis: Если кто-то это сделает, то ответ будет не в недостатке системы, а в неправильном использовании. Возможно, это и есть правильный путь. Может, системы уже сейчас способны на это, нужны только гениальные создатели, которые вдохнут в них душу, дадут проекту смысл, и при этом будут тесно работать с инструментами. Тогда можно создать что-то сверхъестественное.

Открытый исходный код и мультимодальные модели

Gary Tan: Перейдём к открытости. Недавний запуск Gemma позволяет запускать очень мощные модели локально. Как вы считаете, AI станет собственностью пользователя, а не только облачной технологией? Это изменит доступность инструментов для создания продуктов?

Demis Hassabis: Мы — твёрдые сторонники открытого исходного кода и открытой науки. Например, AlphaFold мы полностью сделали бесплатным. Наши научные публикации выходят в ведущих журналах. В случае Gemma мы хотим создать модели мирового уровня для аналогичных размеров. Уже за две с половиной недели после релиза скачано около 40 миллионов раз.

Я считаю важным, чтобы в области open source присутствовали западные технологические стеки. Китайские open source модели очень хороши и сейчас лидируют, но мы считаем, что Gemma при аналогичных размерах очень конкурентоспособна.

У нас есть ограниченность ресурсов — никто не может одновременно тренировать две крупные передовые модели. Поэтому мы решили: модели для периферии — для Android, очков, роботов — лучше делать открытыми, чтобы их можно было запускать прямо на устройстве, ведь там они уже «выведены на поверхность». Мы единым стратегическим курсом объединяем открытые подходы, и это логично.

Gary Tan: Перед вами я показывал, как я взаимодействую с AI-операционной системой через голос. Это было немного нервно, но получилось. Gemini — мультимодальная модель с самого начала. Я использовал много моделей, и взаимодействие через голос, дополненное вызовами инструментов и пониманием контекста, — сейчас это лучшее решение.

Demis Hassabis: Да. Одно из преимуществ Gemini — мы с самого начала строили мультимодальную систему. Это усложнило старт, но в долгосрочной перспективе даст преимущества, и уже сейчас мы начинаем это реализовывать.

Например, в области моделирования мира мы создали Genie — генеративную интерактивную модель. В робототехнике Gemini Robotics будет базироваться на мультимодальных моделях, что станет нашим конкурентным преимуществом. Мы всё больше используем Gemini в Waymo (автопилот компании Alphabet).

Представьте цифрового помощника, который сопровождает вас в реальном мире — на телефоне или очках, понимает окружающую среду. Наши системы очень сильны в этом. Мы продолжим развивать это направление, и я уверен, что у нас есть значительный лидерский потенциал.

Gary Tan: Стоимость рассуждений быстро снижается. Когда рассуждение становится почти бесплатным, что становится возможным? Меняет ли это ваши приоритеты в оптимизации?

Demis Hassabis: Не уверен, что рассуждение станет полностью бесплатным — эффект Джевонса (Jevons’ Paradox), когда повышение эффективности ведёт к росту общего потребления, всё ещё актуален. В конце концов, все будут использовать всю доступную вычислительную мощность.

Можно представить миллионы агентов, работающих совместно, или группу агентов, рассуждающих одновременно по разным направлениям и объединяющих результаты. Мы экспериментируем с этим, и все эти подходы будут требовать ресурсов.

Что касается энергии — если удастся решить управляемый термоядерный синтез, комнатную сверхпроводимость, оптимальные батареи — то, по моему мнению, материалы позволят снизить энергетические издержки почти до нуля. Но физическое производство чипов — ещё узкое место, и в ближайшие десятилетия оно останется таковым. Поэтому лимит по рассуждениям всё равно будет существовать, и нужно максимально эффективно использовать ресурсы.

Следующий научный прорыв

Gary Tan: Хорошо, что малые модели становятся всё умнее. В сфере биотехнологий много основателей. AlphaFold 3 уже превосходит белки и расширяется на более широкий спектр биомолекул. Насколько далеко мы от моделирования полноценной клеточной системы? Это принципиально другая сложность?

Demis Hassabis: Isomorphic Labs показывает отличные результаты. AlphaFold — лишь часть процесса поиска лекарств, мы работаем над смежными задачами — проектированием веществ с нужными свойствами, скоро будет важное объявление.

Наша конечная цель — создать полноценную виртуальную клетку, модель, в которую можно вносить изменения, — полноценный симулятор клетки, дающий результаты, близкие к экспериментальным, и обладающий практической ценностью. Можно пропускать этапы поиска, генерировать синтетические данные для обучения других моделей, предсказывающих поведение реальных клеток.

Думаю, до создания полной виртуальной клетки осталось около десяти лет. Мы начинаем с ядра клетки — оно относительно автономно. Важный вопрос — можно ли выделить достаточно компактный и самодостаточный фрагмент, который можно моделировать, чтобы получить представление о всей системе. Ядро клетки — хороший кандидат.

Другая проблема — недостаток данных. Я общался с ведущими учёными, работающими с электронными микроскопами и другими методами визуализации. Если бы можно было не убивая клетки, делать их живыми, это было бы революционно. Тогда можно было бы превратить задачу в визуальную, а визуальные модели мы хорошо понимаем.

Но пока нет технологий, позволяющих с наноразрешением снимать живые клетки без повреждений. Уже есть очень точные статические изображения, что очень интересно, но этого недостаточно для полноценной визуализации динамики.

Есть два подхода: аппаратный и программный. Первый — создание новых технологий для получения данных; второй — построение более точных моделирующих симуляторов.

Gary Tan: Не только в биологии. В материаловедении, фармацевтике, климатологии, математике — если нужно расставить приоритеты, какие области претерпят самые кардинальные изменения за ближайшие пять лет?

Demis Hassabis: Каждая область вызывает восхищение, и именно поэтому я уже более тридцати лет занимаюсь AI. Я всегда считал, что AI — это конечный инструмент науки, который поможет понять и открыть новые горизонты в науке, медицине и космосе.

Наше видение — в двух шагах. Первый — решить задачу интеллекта, построить ИИ общего назначения. Второй — использовать его для решения всех остальных задач. Потом мы немного изменили формулировку, потому что возник вопрос: «Вы действительно собираетесь решать все проблемы?»

Но да, именно так. Сейчас все начинают понимать, что это значит. Я говорю о решении так называемых «корневых проблем» — тех научных задач, которые, если решить, откроют новые направления исследований. Например, AlphaFold — прототип того, что мы хотим делать.

Более трёх миллионов исследователей по всему миру используют AlphaFold. Некоторые руководители фармацевтических компаний говорят, что почти все новые лекарства в будущем будут связаны с применением AlphaFold на каком-то этапе. Мы гордимся этим, и это именно тот эффект, который мы надеялись достичь с помощью AI. Но это только начало.

Я не могу придумать ни одной области науки или техники, где AI не мог бы помочь. Те области, что я упомянул, — это только «момент AlphaFold», когда результаты уже очень перспективны, но ещё не достигнуты главные вызовы. В ближайшие два года мы увидим много прогресса — в материаловедении, математике и других сферах.

Gary Tan: Это похоже на прорыв Прометея — дарит человечеству новые возможности.

Demis Hassabis: Точно. И, как в мифе, мы должны быть осторожны с тем, как эти возможности используют и злоупотребляют.

Успешные практики

Gary Tan: Многие из присутствующих пытаются создать компании, использующие AI в науке. В чём, по вашему мнению, отличие между действительно передовыми стартапами и теми, кто просто навешивает API на базовые модели и называет себя «AI for Science»?

Demis Hassabis: Я думаю, если бы я сейчас был на вашем месте, смотрел бы на проекты в Y Combinator, я бы задался вопросом: как предсказать развитие AI? И, честно говоря, я считаю, что есть огромные возможности в сочетании AI с другими глубокими технологиями. Особенно в областях, связанных с атомами, материалами, медициной — там не будет быстрых обходных путей. Эти области не исчезнут после следующего обновления базовой модели. Но если искать устойчивое конкурентное преимущество — это мой совет.

Я лично люблю глубокие технологии. Настоящие, долгосрочные и ценные вещи — это не легко. Я всегда тянуло к глубоким технологиям. Когда мы начинали в 2010 году, AI считался нишей — инвесторы говорили, что это не работает, а академия — что это провал 90-х.

Но если у вас есть вера в свои идеи — почему это будет иначе в этот раз, что у вас за уникальный бэкграунд, какая у вас команда — то внутри есть огромный потенциал и ценность.

Gary Tan: Это очень важный совет. Когда что-то получается, кажется очевидным, но до этого все были против.

Demis Hassabis: Конечно. Поэтому важно заниматься тем, что действительно зажигает сердце. Для меня — AI. Я решил этим заниматься ещё в детстве, потому что понимал, что это самое влиятельное, что я могу придумать. И это подтвердилось — или не подтвердилось, — может, я был слишком рано, лет на 50.

Но это также самое интересное. Даже если сегодня мы ещё в гараже, а AI — только идея, я всё равно буду искать способы продолжать. Может, вернусь в академию, но продолжу.

Gary Tan: AlphaFold — пример удачного выбора направления и правильной ставки. Что делает научную область подходящей для таких прорывов, как AlphaFold? Есть ли какие-то закономерности, например, в целевой функции?

Demis Hassabis: Обязательно. Надо записать. Из опыта проектов вроде AlphaGo и AlphaFold я понял, что лучшие результаты достигаются, когда:

— проблема имеет огромный комбинаторный поиск, чем больше, тем лучше, — пространство поиска превышает количество атомов во Вселенной;

— можно чётко определить целевую функцию, например, минимизация свободной энергии белка или победа в игре, — тогда система может использовать градиентные методы;

— есть достаточно данных или симулятор, который генерирует много синтетических образцов внутри распределения.

Если эти условия выполнены, современные методы могут найти нужную «иголку в стоге сена». В медицине — та же логика: если есть химическая структура, которая лечит болезнь без побочных эффектов, и физика это позволяет — задача только в поиске. AlphaFold впервые показал, что такие системы могут искать в огромных пространствах.

Gary Tan: Хотел бы подняться на уровень выше. Мы говорим, что люди используют эти методы для создания AlphaFold, а ещё есть мета-уровень — использование AI для исследования гипотез. Насколько мы близки к тому, чтобы системы могли делать настоящие научные рассуждения, а не только находить паттерны в данных?

Demis Hassabis: Думаю, очень близко. Мы создаём такие универсальные системы. Есть AI co-scientist, есть алгоритмы типа AlphaEvolve, которые делают шаги дальше, чем базовые модели Gemini. Все ведущие лаборатории исследуют это направление.

Но пока я не видел, чтобы эти системы сделали действительно крупное научное открытие. Но оно скоро придёт. И связано это с нашим обсуждением креативности — прорывы за границами известного. Тогда это перестанет быть просто паттерн-матчингом, потому что не будет шаблонов. Это будет что-то вроде аналогического рассуждения, — системы пока этого не умеют, или мы не умеем их правильно использовать.

Я часто говорю, что в науке важно не только подтверждение гипотез, но и их генерация. Например, доказательство гипотезы Римана или решение одной из задач Millennium — это уже большое достижение. Но ещё сложнее — предложить новый набор задач, которые признаны глубокими и достойными исследования на всю жизнь.

Это — уровень, который пока недостижим, но я верю, что эти системы со временем смогут. Может, чуть не хватает одного-двух элементов. Я называю это «тестом Эйнштейна»: можно ли обучить систему знаниям 1901 года и заставить её самостоятельно вывести результаты, которые сделал Эйнштейн в 1905? Если да — системы уже близки к настоящему научному прорыву.

Когда это произойдёт, системы перестанут быть просто паттерн-матчингом — они смогут делать новые открытия, создавать новые гипотезы. И тогда мы увидим, что они могут предложить новые «задачи тысячелетия», которые будут так же глубокими, как и те, что поставлены сейчас.

Я считаю, что это не магия, а вопрос времени. В конце концов, я называю это «тестом Эйнштейна»: можно ли взять знания 1901 года и вывести из них всё, что сделал Эйнштейн в 1905? И если да — системы уже на пороге новых открытий.

Предпринимательские советы

Gary Tan: Последний вопрос. В зале много людей с глубокими техническими знаниями, желающих создать что-то масштаба вашего уровня. Вы — одна из крупнейших исследовательских организаций в области AI. Что бы вы сейчас хотели знать в 25 лет, что, по вашему мнению, было бы полезно понять раньше?

Demis Hassabis: Мы уже обсуждали часть этого. Вы заметите, что поиск сложных задач и простых — по сути, одинаково сложны, только по-разному. Важна разница в подходах. Жизнь коротка, и лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы не возьмётесь за них.

Также я считаю, что в ближайшие годы междисциплинарные комбинации станут ещё более важными. AI сделает их проще и быстрее.

И последнее — зависит от вашего графика развития ИИ общего назначения. Мой — примерно 2030 год. Если вы начинаете проект в области глубоких технологий сегодня, то нужно учитывать, что ИИ может появиться внезапно. Это не обязательно плохо, но важно подготовиться. Можно ли использовать ИИ в своём проекте? Как он будет взаимодействовать с вашей командой?

Вернусь к примеру AlphaFold и универсальных систем. Возможно, Gemini, Claude или подобные системы будут использоваться как инструменты для вызова специализированных систем вроде AlphaFold. Я не думаю, что мы будем всё объединять в один гигантский монолит.

Ссылка на видео

Посмотрите, как работает Rhythm BlockBeats — ищем новых сотрудников

Присоединяйтесь к официальному сообществу Rhythm BlockBeats:

Telegram подписка: https://t.me/theblockbeats

Telegram чат: https://t.me/BlockBeats_App

Twitter: https://twitter.com/BlockBeatsAsia