Только тот, кто умеет предсказывать судьбу, действительно умен?

Эта фраза Илона Маска по-простому звучит так: ИИ, который не умеет смотреть в будущее, — это максимум продвинутый калькулятор. Звучит как шутка, но на самом деле очень серьёзно. Если автоматическая езда не может предсказать внезапный манёвр другого автомобиля, то любые сенсоры — лишь украшение; если робот не способен оценить риск следующего шага, то его движения, даже если они элегантны, — это «слепое танго».
Предсказание по сути — это построение модели — модели физического мира, человеческого поведения и рыночных колебаний. Чем ближе модель к реальности, тем «умнее» считается её создатель. Это также объясняет, почему большие модели всё больше сосредотачиваются на создании «модели мира», а не просто на генерации языка.
Но интересно, что и у человека точность предсказаний тоже невысока. Экономисты ежегодно предсказывают рецессию, инвесторы ежедневно прогнозируют бычий рынок. Если бы предсказание было единственным критерием, человечество давно бы снизили в статусе.
Возможно, Маск хотел сказать, что мудрость заключается не в ответах на вопросы, а в способности заранее видеть проблему. Настоящий умный агент не тормозит только когда загорится красный свет, а уже при мигании жёлтого принимает решение. Именно этот «запас предвидения» и является технологической защитой.
И тогда возникает вопрос: мы стремимся к «точности предсказаний» или к «контролю над неопределённостью»? Второе — это действительно сложная задача. #深度创作营