Чи справді AI, що вміє передбачати, є справді розумним?

Ця фраза Ілона Маска в простій мові звучить так: AI, який не може передбачити майбутнє, — це найвищий рівень калькулятора. Звучить як жарт, але насправді дуже серйозно. Якщо автопілот не може передбачити раптовий перехід переднього автомобіля, то навіть багато сенсорів — марна справа; якщо робот не може оцінити ризик наступного кроку, то його рухи, навіть якщо вони граціозні, — «сліпа хода».
Прогнозування — це в основі побудова моделей — моделей фізичного світу, людської поведінки, ринкових коливань. Чия модель ближча до реальності, той і «розумніший». Це також пояснює, чому великі моделі все більше зосереджуються на побудові «світових моделей», а не просто на генерації мови.
Але цікаво, що й сама людська здатність передбачати майбутнє не дуже точна. Економісти щороку прогнозують рецесію, інвестори щодня прогнозують бум на ринку. Якби прогнозування було єдиним критерієм, людство, можливо, давно б було знижено у статусі.
Можливо, Маск хоче сказати: мудрість полягає не в тому, щоб давати відповіді, а в тому, щоб заздалегідь бачити проблему. Справжній розумний агент не гальмує лише тоді, коли світло вже червоне, а приймає рішення ще при жовтому світлі. Саме ця «запас передбачення» і є технологічною перевагою.
Отже, питання стає: ми прагнемо до «точності прогнозів» чи до «контролю над невизначеністю»? Друге — справжня складність.#深度创作营