Віталік Блог: Чому нам потрібен відкритий, перевірений світ?

Автор: Vitalik

Редагування & Переклад | RuoYan

Оригінальне посилання:

Заява: Ця стаття є переробкою, читачі можуть отримати додаткову інформацію за посиланням на оригінал. Якщо автор має будь-які заперечення щодо форми переробки, будь ласка, зв’яжіться з нами, і ми внесемо необхідні зміни відповідно до вимог автора. Переробка використовується виключно для обміну інформацією, вона не є інвестиційною порадою і не відображає позицію або погляди Wu.

Найбільші тенденції цього століття можна підсумувати фразою “інтернет став реальністю”. Від електронної пошти до миттєвих повідомлень, від цифрових фінансів до моніторингу здоров’я, і до майбутнього мозково-комп’ютерних інтерфейсів — наше повсякденне життя стає все більш цифровим. Однак ця цифровізація приносить великі можливості та ризики. Віталік Бутерін у цій статті глибоко досліджує, чому нам потрібно реалізувати справжню відкритість і верифікацію у всьому технологічному стеку (програмне забезпечення, апаратне забезпечення і біотехнології), а також як побудувати більш безпечне, вільне та рівноправне цифрове майбутнє.

Інтернет — це реальне життя

Найбільші тенденції цього століття можна підсумувати фразою “інтернет став реальністю”. Це почалося з електронної пошти та миттєвих повідомлень. Приватні розмови, які тисячоліттями відбувалися усно, на папері або за допомогою пера і паперу, тепер працюють на цифровій інфраструктурі. Потім з’явилися цифрові фінанси — як у криптовалютах, так і у цифровізації традиційних фінансів. Наступним йде наше здоров’я: завдяки смартфонам, персональним моніторам здоров’я та даним, що отримуються з поведінки покупців, — інформація про наше тіло обробляється комп’ютерами і мережею. У найближчі двадцять років я очікую, що ця тенденція проникне у багато інших сфер, включаючи різні урядові процеси (навіть голосування), моніторинг фізичних і біологічних показників громадського середовища та загрози, і зрештою, через мозкові інтерфейси — навіть наші думки.

Я вважаю, що ці тенденції неминучі; їхні переваги надто великі, і у висококонкурентному глобальному середовищі цивілізація, яка відмовиться від цих технологій, спершу втратить конкурентоспроможність, а потім і суверенітет. Окрім того, ці технології глибоко впливають на внутрішню та міждержавну динаміку влади.

Цивілізації, що найбільше виграють від нових технологічних хвиль, — це не ті, що орієнтовані на споживчі технології, а ті, що на виробничі. Доступ до централізованих платформ і API через рівний доступ — це лише частина, і вона зазнає невдачі у випадках, що виходять за межі “нормального” режиму. Крім того, майбутнє вимагає великої довіри до технологій. Якщо ця довіра буде зруйнована (наприклад, через бэкдори або безпекові вразливості), ми стикнемося з серйозними проблемами. Навіть сама можливість такої втрати довіри змушує людей повертатися до більш ізольованих моделей суспільної довіри (“Чи побудував це той, кому я довіряю?”). Це створює стимул до централізації влади: суверен — це той, хто визначає виключний статус.

Щоб уникнути цих проблем, потрібно впроваджувати у всьому технологічному стеку — програмному забезпеченні, апаратному забезпеченні і біотехнологіях — дві взаємопов’язані характеристики: справжню відкритість (відкритий код, ліцензії з відкритим доступом) і верифікацію (у ідеалі — безпосередню перевірку кінцевим користувачем).

Інтернет — це реальне життя. Ми прагнемо зробити його утопією, а не антиутопією

Важливість відкритості і верифікації у сфері здоров’я

Ми бачили наслідки нерівного доступу до технологій під час пандемії COVID-19. Вакцини вироблялися лише у кількох країнах, що призвело до значних різниць у часі їхнього отримання різними країнами [1]. Багаті країни отримали найкращі вакцини вже у 2021 році, тоді як інші — у 2022 або 2023. Існували ініціативи для забезпечення рівного доступу [2], але через те, що вакцини були розроблені з використанням капіталомістких і закритих технологій виробництва, ці ініціативи мали обмежений ефект.

2021–2023 роки — охоплення вакцинами від COVID-19

Другою проблемою вакцин є їхня непрозорість [3] у наукових і комунікаційних стратегіях [4], що намагаються переконати громадськість у їхній абсолютній безпеці або відсутності недоліків, що є неправдою і сприяє зростанню недовіри [5]. Сьогодні ця недовіра вже набирає обертів і нагадує відмову від півстоліття наукових досягнень.

Насправді ці дві проблеми можна вирішити. Вакцини, фінансовані, наприклад, Balvi [6], мають нижчу вартість розробки, відкритий процес виробництва, що зменшує нерівність у доступі, і полегшує аналіз і верифікацію їхньої безпеки та ефективності. Ми можемо рухатися далі у створенні вакцин, спроектованих для верифікації.

Подібні проблеми стосуються і цифрових аспектів біотехнологій. Коли ви спілкуєтеся з дослідниками довголіття, ви зазвичай чуєте, що майбутнє антистаріння — це персоналізоване і даними кероване. Щоб рекомендувати людині ліки або зміни у харчуванні сьогодні, потрібно знати їхній поточний стан здоров’я. Якщо можна збирати і обробляти великі обсяги цифрових даних у реальному часі, це зробить процес ще ефективнішим.

Інтернет — це реальне життя. Ми прагнемо зробити його утопією, а не антиутопією

Аналогічно, ці ідеї застосовуються і до біотехнологій, спрямованих на профілактику ризиків, наприклад, у боротьбі з епідеміями. Чим раніше виявляється епідемія, тим більше шансів її зупинити на джерелі — навіть якщо не вдається, кожен тиждень дає додатковий час для підготовки та розробки заходів. Під час пандемії важливо знати, де хворіють люди, щоб оперативно реагувати. Якщо інфіковані особи знають про це і самоізолюються за годину, поширення зменшується у 72 рази порівняно з триденним поширенням. Якщо ми знатимемо, які 20% місць відповідають за 80% поширення, покращення якості повітря там принесе додаткові вигоди. Усе це вимагає (i) великої кількості датчиків і (ii) здатності цих датчиків у реальному часі передавати інформацію іншим системам.

Якщо рухатися далі у напрямку “наукової фантастики”, то з’явиться мозковий-комп’ютерний інтерфейс, що може забезпечити значний приріст продуктивності, допомагаючи людям краще розуміти один одного через телепатію і відкриваючи безпечніший шлях до високорозумних ШІ.

Якщо біо- і здоров’яслідкування (особисте і просторове) базується на закритих технологіях, то дані автоматично потрапляють до великих компаній. Вони мають можливість створювати різноманітні додатки на їхній основі, тоді як інші — ні. Вони можуть надавати доступ через API, але цей доступ буде обмеженим і використовуватиметься для монополістичних цін. Це означає, що кілька компаній отримають контроль над найважливішими компонентами технологій 21 століття, що обмежить економічні вигоди для інших.

З іншого боку, якщо ці дані про здоров’я будуть ненадійними або зламаними, хакери зможуть шантажувати вас через проблеми зі здоров’ям, оптимізувати ціни на страхові та медичні послуги для отримання вигоди, а якщо дані міститимуть геолокацію — знати, де ви перебуваєте, і навіть викрасти вас. Крім того, ваша позиція (дуже часто — піддається зломам [7]) може бути використана для виведення інформації про ваше здоров’я. Якщо ваш BCI буде зламаний, то вороги зможуть буквально читати (або навіть писати) ваші думки. Це вже не фантастика: дивіться тут [8], як злом мозкових-комп’ютерних інтерфейсів може призвести до втрати рухового контролю.

Загалом, це дає великі переваги, але й серйозні ризики: підкреслення відкритості і верифікації дуже підходить для пом’якшення цих ризиків.

Важливість відкритості і верифікації у персональних і бізнесових цифрових технологіях

Минулого місяця я мусив заповнити і підписати юридичну форму, необхідну для функціонування системи. Тоді я був за кордоном. Існує державна система електронного підпису, але я її не налаштував. Мені довелося роздрукувати форму, підписати її, піти до DHL, витратити багато часу на заповнення паперової форми і заплатити за доставку у протилежний кінець світу. Час: півгодини, вартість: 119 доларів. В той самий день я мав підписати (цифрову) транзакцію для виконання операції в Ethereum-блокчейні. Час: 5 секунд, вартість: 0,10 долара (справедливо — без блокчейну підпис був би цілком безкоштовним).

Ці історії легко знайти у корпоративному або некомерційному управлінні, управлінні інтелектуальною власністю тощо. За останні десять років їх можна побачити у більшості презентацій стартапів у сфері блокчейну. Крім того, є “цифрове здійснення особистої влади” — батько всіх кейсів: платежі і фінанси.

Звісно, усе це має великі ризики: що робити, якщо програмне або апаратне забезпечення буде зламано? Це ризик, який раніше усвідомлювали у криптопросторі: блокчейн — це безліцензійна і децентралізована система, тому якщо ви втратите доступ до коштів [9], у вас не буде ресурсів і “дядька з неба”, до якого можна звернутися. Не ваші ключі — не ваші монети. Саме тому у ранньому криптосвіті з’явилися ідеї мультипідпису [10] і гаманців для відновлення через соціальні мережі [11], а також апаратних гаманців [12]. Однак у реальності багато ситуацій, коли відсутність довіри до “неба” — це не ідеологічний вибір, а неминучий аспект сценарію. Навіть у традиційних фінансах “дядько з неба” не може захистити більшість людей: наприклад, лише 4% жертв шахрайств відновлюють свої втрати [13]. У випадках з особистими даними навіть теоретично неможливо відновити витік. Тому нам потрібна справжня верифікація і безпека — верифікація програмного забезпечення і кінцевого апаратного забезпечення.

Пропонована технологія для перевірки правильності виготовлення комп’ютерних чіпів

Важливо, що у випадку апаратного забезпечення ризики, яких ми намагаємося уникнути, значно перевищують питання “виробник — зло?”. Насправді, проблема полягає у великій кількості залежностей, більшість з яких закриті, і будь-яка халатність може призвести до неприпустимих безпекових наслідків. Ця стаття показує недавні приклади [14], що ілюструють, як вибір мікроархітектури може підривати стійкість до сторонніх атак, які можна довести у моделі, що базується лише на програмному забезпеченні. Атаки на зразок EUCLEAK [15] залежать від того, наскільки багато компонентів є закритими, і тому важче виявити вразливості. Якщо моделі AI тренуються на пошкодженому апаратному забезпеченні [16], вони можуть бути вставлені з заднім ходом під час навчання.

Ще одна проблема — недоліки закритих і централізованих систем, навіть якщо вони цілком безпечні. Централізація між особами, компаніями і державами створює постійний важіль: якщо ваша критична інфраструктура побудована і підтримується потенційно недовірливими країнами або компаніями, ви легко піддаєтеся тиску (див. Henry Farrell про військову залежність [18]). Це саме те, що має на меті криптографія — але вона поширюється і у сферах, що виходять за межі фінансів.

Важливість відкритості і верифікації у сфері цифрових громадянських технологій

Я часто спілкуюся з людьми, які прагнуть знайти кращі форми уряду для 21 століття. Деякі, наприклад, Audrey Tang [19], намагаються підняти вже функціонуючі політичні системи на новий рівень, залучаючи локальні відкриті спільноти і застосовуючи механізми громадських зборів, жеребкування і повторного голосування. Інші — з нуля: ось проект [20], запропонований кількома російськими політичними науковцями для Росії, з сильним захистом особистих свобод і місцевої автономії, з акцентом на мирний спротив і безпосередню демократію. Інші — економісти, що працюють над земельним податком [21] або платою за затори, — прагнуть покращити економіку своїх країн.

Різні люди можуть мати різний рівень ентузіазму щодо кожної ідеї. Але у всіх них є спільна риса — високий рівень участі, тому будь-яка реальна реалізація має бути цифровою. Базові записи про власність і вибори кожні чотири роки — це можливо, але будь-які системи, що вимагають більш високої пропускної здатності або частоти, — ні.

Історично, сприйняття ідеї електронного голосування серед дослідників безпосередньо коливалося від скепсису до ворожості. Ось хороший огляд [22], що критикує електронне голосування. Цитуючи цей документ:

“По-перше, технологія — це ‘чорний ящик’, тобто громадськість не має доступу до коду, що керує голосовими машинами. Хоча компанії захищають свій софт від шахрайства (і від конкурентів), це також означає, що громадськість не знає, як працює софт для голосування. Маніпуляції з боку компаній, що продають машини, для отримання фальсифікаційних результатів — це просто. Крім того, постачальники машин конкурують між собою, і немає гарантії, що вони виробляють машини для точності виборів і голосів.”

Є багато реальних випадків [23], що підтверджують цю обережність.

Критичний аналіз естонського електронного голосування 2014 року [24]

Ці аргументи застосовуються до будь-яких інших випадків. Але я прогнозую, що з розвитком технологій відповідь “не робимо” стане все менш реалістичною у широкому масштабі. Світ швидко стає більш ефективним завдяки технологіям (добре чи погано), і я очікую, що будь-яка система, що не йде у ногу з цим трендом, стане дедалі менш актуальною для особистих і колективних справ. Тому нам потрібен альтернативний шлях: справжнє впровадження складних технологій, що роблять їх безпечними і верифікованими.

Теоретично, “безпека і верифікація” і “відкритий код” — це різні речі. Деякі речі цілком можуть бути закритими і безпечними: наприклад, літаки — це високотехнологічна закрита сфера, але у цілому авіація — дуже безпечний спосіб подорожей [25]. Але закриті моделі не здатні забезпечити спільне знання про безпеку — здатність довіряти поведінці, яким не довіряють один одному.

Громадські системи, наприклад, вибори, — це ситуації, де важливо мати спільне знання про безпеку. Інший приклад — збір доказів у суді. Останнім часом у Массачусетсі багато доказів у справах про алкотестери були визнані недійсними [26] через те, що інформація про несправності тестів була прихована. Цитуючи статтю:

“Отже, чи всі результати мають несправності? Ні. Насправді, у більшості випадків тестування алкотестерів не має проблем із калібруванням. Але через те, що слідчі з’ясували, що штати приховували інформацію про несправності, і що проблеми були ширшими, суддя Frank Gaziano написав, що всі ці порушення процесуальних прав обвинувачених були порушені.”

Процедури у суді — це сфера, де потрібне не лише справедливе і точне рішення, а й спільне знання про його справедливість і точність — інакше суд може перетворитися на самосуд.

Крім верифікації, сама відкритість має внутрішню цінність. Відкритість дозволяє місцевим спільнотам проектувати системи управління, ідентифікації та інших потреб у спосіб, що відповідає їхнім цілям. Якщо виборчі системи закриті, країни (або провінції, або міста), що прагнуть спробувати нові системи, матимуть труднощі: їм доведеться або переконати компанії впровадити їхні правила, або створити все з нуля і зробити їх безпечними. Це підвищує вартість інновацій у політичних системах.

У будь-якій із цих сфер більш відкритий хакерський підхід дає більше повноважень місцевим виконавцям — будь то окремі особи, уряди або компанії. Щоб це стало можливим, потрібно створювати відкриті інструменти, доступні широкому колу користувачів, а інфраструктура і кодові бази — з відкритою ліцензією, щоб інші могли будувати на їхній основі. У прагненні мінімізувати розрив у владі особливо цінним є copyleft [27].

Останній важливий напрямок у сфері громадянських технологій — фізична безпека. Відеоспостереження за останні два десятиліття з’явилися повсюдно і викликають багато занепокоєнь щодо громадянських свобод. На жаль, я прогнозую, що зростання безпілотних дронів зробить “не робити високотехнологічну безпеку” вже недоцільним. Навіть якщо закони країни не порушують особисту свободу, якщо країна не здатна захистити вас від інших держав (або бандитських компаній або осіб), це безглуздо. БПЛА роблять такі атаки набагато легшими. Тому нам потрібні рішення, що включають багато систем протидії дронам [28], датчики і камери.

Якщо ці інструменти будуть закритими, збір даних буде непрозорим і централізованим. Якщо ж вони відкриті і верифіковані, у нас з’явиться шанс застосовувати кращі підходи: безпечні пристрої, що здатні доводити, що вони видають обмежену кількість даних у певних випадках і знищують решту. Ми можемо створити цифрове майбутнє фізичної безпеки — швидше за все, у вигляді цифрового доглядача, а не цифрового в’язниці. Люди зможуть вимагати відкритості і верифікації громадських систем відеоспостереження. Університетські ІТ-спільноти можуть регулярно проводити такі перевірки як освітні вправи.

Відкриті та верифіковані підходи

Ми не можемо уникнути глибокого впровадження цифрових обчислень у всі сфери життя (особисті і колективні). За замовчуванням, ми можемо отримати системи, створені і керовані централізованими компаніями, що орієнтовані на прибутки кількох осіб, з бекдорами від урядів і з обмеженим доступом для більшості людей, які не можуть їх створити або перевірити їхню безпеку. Але ми можемо рухатися до кращих альтернатив. Уявіть світ:

· у вас є безпечний особистий цифровий пристрій — з функціями смартфона, апаратним криптогаманцем і механічним годинником, що можна перевірити.

· усі ваші месенджери — з шифруванням, повідомлення проходять через змішану мережу, весь код — з офіційною верифікацією. Ви можете бути впевнені, що ваші приватні повідомлення справді приватні.

· ваші фінанси — стандартизовані ERC20 активи, що контролюються вашим особистим пристроєм, і зберігаються у гаманці, що можна відновити через інші пристрої, членів сім’ї, друзів або організації [29] (не обов’язково уряд: якщо будь-хто може це зробити легко, наприклад, церква теж може запропонувати таку послугу).

· існує відкритий аналог інфраструктури типу Starlink, що забезпечує глобальне з’єднання без залежності від кількох окремих учасників.

· у вас є пристрої з відкритими вагами для великих мовних моделей, що аналізують вашу активність, пропонують рекомендації і автоматично виконують завдання, попереджаючи вас про можливу помилку або наближення до неї. Операційна система — теж з відкритим кодом і з офіційною верифікацією.

· ви носите цілодобовий пристрій моніторингу здоров’я, що відкритий і перевірений, і дозволяє вам отримувати дані і переконатися, що ніхто не отримує їх без вашої згоди.

· у нас є більш просунуті форми управління — з жеребкуваннями, громадськими зборами, повторним голосуванням і складними демократичними механізмами для визначення цілей і способів їх досягнення, а також методами відбору ідей від експертів. Як учасник, ви можете бути впевненими, що система виконує правила так, як ви їх розумієте.

· у громадських місцях встановлено системи відеоспостереження для моніторингу біологічних змін (наприклад, рівнів CO2 і AQI, наявності інфекційних захворювань, аналізу стічних вод). Однак ці системи (і будь-які камери і дрони) — відкриті і верифіковані, і мають правову основу, громадськість може випадково їх перевіряти.

· Це світ, у якому ми маємо більше безпеки, свободи і рівних можливостей для глобальної економіки, ніж сьогодні. Але для його реалізації потрібно інвестувати у більш просунуті криптографічні технології. Я називаю їх ZK-SNARK, повністю гомоморфним шифруванням і змішуванням, що настільки потужні, що дозволяють у багатосторонньому середовищі виконувати довільні обчислення над даними і гарантувати їхню цілісність, зберігаючи конфіденційність. Це відкриває нові можливості для застосувань із підвищеним рівнем приватності. Інструменти, близькі до криптографії, — наприклад, блокчейн для забезпечення незмінності даних і недопущення виключення користувачів, а також диференційоване приватне додавання шуму — також застосовні тут.

· застосунки і безпека користувачів. Застосунки будуть безпечними лише тоді, коли їхні гарантії будуть зрозумілими і верифікованими для користувачів. Це вимагатиме створення зручних фреймворків для розробки безпечних додатків. Важливо також, щоб браузери, операційні системи і інші посередники (наприклад, локальні спостерігачі LLM) могли максимально перевіряти застосунки, оцінювати їхній ризик і повідомляти користувачам.

· формальна верифікація. Ми можемо використовувати автоматичні доведення для перевірки, що програми відповідають нашим вимогам, наприклад, не розкривають дані або не піддаються несанкціонованим змінам. Мова Lean вже стала популярною для цього. Ці технології вже застосовуються для верифікації алгоритмів ZK-SNARK для Ethereum Virtual Machine (EVM) і інших високоризикових застосувань, і будуть поширюватися у більш широких сферах. Крім того, потрібно зробити подальші кроки у більш буденних практиках безпеки.

Крах песимізму щодо кібербезпеки 2000-х років був помилковим: вразливості (і бекдори) можна подолати. Ми “просто” повинні навчитися ставити безпеку вище за інші цілі.

· Відкриті і безпечні операційні системи. Такі вже з’являються: GrapheneOS для Android, мінімальні безпечні ядра, як Asterinas, HarmonyOS від Huawei (з відкритим кодом і формальною верифікацією — я очікую, що багато читачів скажуть “якщо це Huawei, то там точно є бекдори”, але це ігнорує головне: якщо система відкрита, будь-хто може її перевірити, і виробник не має значення. Це гарний приклад того, як відкритість і верифікація допомагають протистояти глобальній дезінтеграції) — безпечне відкриття апаратного забезпечення. Якщо ви не можете бути впевненими, що ваше обладнання справді працює на цьому ПЗ і не має прихованих бекдорів, то безпечним його зробити неможливо. У цьому напрямку я бачу два короткострокові пріоритети:

· особистий безпечний цифровий пристрій — так званий “апаратний гаманець” у криптосвіті, або “безпечний телефон” у відкритому коді, — і з часом вони зіллються у одне ціле, коли зрозумієш, що потрібно для безпеки і універсальності.

· фізична інфраструктура у громадських місцях — розумні замки, біомоніторинг, IoT-технології. Ми повинні довіряти цим системам, і для цього потрібно відкриття і верифікація.

· створення відкритих інструментів для відкритого апаратного забезпечення. Сьогодні проектування апаратного забезпечення залежить від закритих інструментів, що значно підвищує вартість і ускладнює процес. Це також ускладнює верифікацію — якщо інструменти для створення чипів закриті, ви не знаєте, що саме ви перевіряєте. Навіть сучасні інструменти, як сканери ланцюгів постачання, часто недоступні через закритість. Це все можна змінити.

· верифікація апаратного забезпечення (наприклад, IRIS, рентгенівські сканери). Ми потребуємо методів сканування чипів, щоб переконатися, що вони мають потрібну логіку і не містять прихованих компонентів для несанкціонованого доступу або викрадення даних. Це можна зробити без руйнувань: аудитори можуть випадково замовляти і розкривати чипи, щоб перевірити їхню логіку. IRIS і рентгенівські сканери — це без руйнувань, і кожен чип можна сканувати.

· відкриті, недорогі, локальні системи моніторингу навколишнього середовища і біомоніторингу. Спільноти і окремі особи повинні мати можливість вимірювати навколишнє середовище і себе, щоб ідентифікувати біологічні ризики. Це включає різні технології: персональні медичні пристрої, датчики якості повітря, універсальні датчики інфекційних захворювань (наприклад, Varro), і масштабні системи моніторингу навколишнього середовища.

Рівень відкритості і верифікації у всіх шарах технологічного стеку

Звідси — до майбутнього

Ця концепція відрізняється від більш “традиційних” технологічних бачень тим, що вона більш дружня до локального суверенітету, індивідуальної свободи і участі. Безпека — це не пошук ідеального світу без зла, а створення більш міцного світу на кожному рівні. Відкритість означає відкритий доступ до кожного шару технологій, а не лише до API централізованих платформ. Верифікація — це не привілей закритих компаній і урядів, а право і громадська справа.

Я вірю, що ця концепція є більш стійкою і відповідає розколотому світу 21 століття. Але часу на її реалізацію обмаль. Зростає кількість централізованих систем збору даних і бекдорів, а спроби зробити верифікацію цілком залежною від довіри до виробника або розробника — швидко поширюються. Альтернативи відкритому доступу вже існують десятиліттями. Вони починалися з Facebook і internet.org, і будуть продовжуватися, кожного разу ускладнюючись. Нам потрібно діяти швидко, щоб конкурувати з цим і довести, що кращі рішення можливі.

Якщо нам вдасться реалізувати цю концепцію, то можна сказати, що світ — це ретро-футуризм. З одного боку, ми отримуємо переваги більш потужних технологій для покращення здоров’я, більш ефективної організації і захисту від нових і старих загроз. З іншого — повертаємося до світу, де кожна людина має другу природу, як у 1900-му: інфраструктура безкоштовна, її можна розбирати, перевіряти і модифікувати під свої потреби, і будь-хто може брати участь не лише як споживач або “розробник додатків”, а й у будь-якому шарі технологічного стеку, впевнений у тому, що пристрій робить те, що він обіцяє.

Вартість проектування верифікованих систем — це баланс між високою швидкодією і зрозумілістю. Багато оптимізацій у апаратному і програмному забезпеченні дають високий приріст швидкості, але ускладнюють розуміння і підвищують вразливість. Відкритий код ускладнює заробляння у більшості класичних бізнес-моделей. Я вважаю, що ці проблеми перебільшені — але це не означає, що світ одразу їх усу