Shutterstock/Hamara

Силіконова долина, щоб рухатися швидко та зламати речі в обороні? 

Ельке Шварц

Я пропагандист, я перекручуватиму правду, я висуватиму лише свою версію, якщо вважаю, що це спонукатиме людей вірити у те, у що мені потрібно.

Це не звуковий фрагмент із особливо бурхливого моменту в популярному телешоу «Божевільні». Ці слова були вимовлений Палмер Лакі, генеральний директор найпопулярнішого військово-технологічного стартапу Кремнієвої долини. Компанія Лакі, Anduril Industries, спеціалізується на системах зі штучним інтелектом, включаючи автономні системи зброї. З оцінкою в 14 мільярдів доларів США Anduril є одним із них кохані оборонної стартап-сцени та її нової екосистеми венчурного капіталу (VC), де великі обіцянки, великі ставки та схильність до пропаганди є основними елементами успіху.

Інтеграція штучного інтелекту (ШІ) в оборонні програми, не кажучи вже про системи зброї, залишається суперечливою. Комітет Великобританії зі штучного інтелекту в системах озброєнь має закликав до обережності над процесами закупівлі зброї з підтримкою штучного інтелекту, але, як це часто буває, коли мова заходить про продукти Кремнієвої долини, розробка, закупівля та розгортання захисних програм штучного інтелекту різко прискорилися в останні роки.

Компанія Anduril, заснована лише в 2017 році, вже отримала кілька багатомільйонних контрактів від Міністерство оборони США (DoD), а також Міністерство оборони Великобританії (МО). На тлі триваючої російсько-української війни, війни в Газі та зростання глобальної напруженості це не може здатися дивним.

In моє останнє дослідження Щодо військового штучного інтелекту, я визначив, що одним із ключових факторів прискореної закупівлі військових стартапів, таких як автономні дрони та інші системи з підтримкою штучного інтелекту, є приплив величезних сум венчурного капіталу та впливу. Цим компаніям венчурного капіталу потрібні оборонні організації, щоб перейняти дух технологічної індустрії швидкості та масштабу та прагнення світу венчурного капіталу до ризику та революції. Це робить ці фірми не лише фінансовими, а й політичними гравцями.

Мої дослідження, опублікований у журналі «Фінанси та суспільство»., припускає, що ця тенденція до формування оборони за образом Кремнієвої долини, мотивована інтересами венчурного капіталу, ймовірно, стане більш виразною та поширеною. Пам’ятаючи про це, варто уважніше розглянути динаміку гри, коли венчурний капітал звертає увагу на питання життя та смерті.

Розвивається військова фінансізація

Військова галузь ШІ та глобальні витрати на оборону процвітають. При струмі Оцінки, у 13.3 році світовий військовий ринок штучного інтелекту становив 2024 мільярда доларів США з прогнозованим зростанням до 35 мільярдів доларів США протягом наступних семи років. Ці цифри різняться залежно від служб ринкових даних, з якими зверталися, але протягом останніх 12 місяців вони регулярно переглядалися в бік збільшення. Глобальні оборонні бюджети також зросли на тлі триваючих конфліктів і загального переходу до мілітаризації за останні 24 місяці.

Глобальний захист витрати досягла рекордного рівня трохи більше 2 трильйонів доларів США у 2023 році. З 877 мільярдами доларів США США звітності на майже 40% світових витрат на оборону в 2023 році альянс НАТО витратить 1.47 трильйона доларів США в 2024 році. Це великі, привабливі цифри для великих технологічних і фінансових компаній, які мають намір закріпитися на ринку оборонної промисловості.

Команда Розділ статистики прагне до високої якості довгоформатна журналістика. Наші редактори співпрацюють з науковцями з різних професій, які вирішують широкий спектр суспільних і наукових проблем.

Тим часом оборонні організації починають витрачати більше грошей на передові технології, включаючи, неминуче, ШІ. 2024 Інститут Брукінгса доповідь виявили, що вартість оборонних контрактів на технології, пов’язані зі штучним інтелектом, зросла майже на 1200% за 12 місяців із серпня 2022 року до серпня 2023 року.

Для більшості нових продуктів штучного інтелекту, як цивільних, так і інших, часто залучається певна форма фінансування венчурного капіталу, особливо якщо відповідне підприємство штучного інтелекту може виявитися занадто ризикованим для фінансування за рахунок банківських позик або інших фінансових інструментів. Венчурний капітал готовий робити ставки на інновації, які інші спонсори не бажають або не можуть робити.

Протягом останніх двох десятиліть цей тип фінансування зосереджувався в основному на продуктах Кремнієвої долини для цивільного ринку, де динаміка дозволила отримати надзвичайні прибутки для інвесторів. Але оскільки ринок оборони зростає, а можливості для надзвичайного прибутку венчурного капіталу в комерційних сферах зменшуються, ті, хто має великі суми капіталу для інвестування, бачать нову можливість для величезних здобутків у сфері оборони.

Тому не дивно, що за останні п’ять років інвестиції венчурного капіталу в оборонні технології різко зросли. З 2019 по 2022 роки венчурне фінансування США для стартапів у сфері військових технологій мало подвоєний, а з 2021 року в секторі оборонних технологій спостерігається вприск 130 мільярдів доларів венчурного капіталу.

Витрати венчурного капіталу також є рекордно високими для європейського оборонного сектору; приватні венчурні інвестиції прогнозовані досягнути рекордного рівня в 1 мільярд доларів США, головним чином завдяки венчурним фірмам США. У повітрі витає відчутний шум щодо можливостей діяльності за підтримки венчурного капіталу та можливості змінити оборонний ландшафт.

Взаємозв’язок венчурного капіталу, військових і Кремнієвої долини

Венчурний капітал завжди був певним чином пов’язаний з військовим сектором. Насправді нинішній бум інвестування венчурного капіталу в оборону можна розглядати як повернення до його ранніх днів. Витоки венчурного капіталу зазвичай простежується назад до Американської науково-дослідної корпорації (ARDC), заснованої в 1946 році, відразу після Другої світової війни, в якій США були підкріплені перемогою, досягнутою, принаймні частково, завдяки передовим технологіям.

ARDC була однією з перших компаній, яка систематично залучала капітал від інституційних інвесторів для фінансування компаній-початківців із високим потенціалом, але які були надто ризикованими для банківських позик. Завдяки цьому підходу ARDC стала першою організацією венчурного капіталу, яка створювала інвестиційні портфелі, які часто покладалися на один або два надзвичайних успіхи, щоб компенсувати більшість компаній, які отримували лише дуже скромні прибутки або навіть збитки. Таким чином, ARDC стала першою так званою компанією «єдиноріг».

«Єдинороги» — це молоді компанії, оцінка яких становить 1 мільярд доларів США або більше (до недавнього часу це була надзвичайно рідкісна нагода для стартапів і те, чого кожен інвестор бажає мати у своєму портфоліо). Це лежить в основі венчурного інвестування: це ризикований капітал із потенційно дуже високою винагородою.

Особливо на початку, відразу після Другої світової війни, багато інвестицій йшло на підтримку стартапів, які займалися військові інновації та технології. Це призвело до появи різноманітних аналітичних приладів, генераторів високої напруги, технології виявлення випромінювання, а також ранніх міні-комп’ютерних компаній, таких як Digital Equipment Corporation.

Цифровий ландшафт, яким ми його знаємо сьогодні, сягає корінням у війську. Інновації в теорії комунікацій були призначені для військових ракетних технологій у 1950-х роках, майже всі предки штучного інтелекту працювали над військовими проектами середини століття, і навіть сам Інтернет виник із військовий проект, який тоді називався Арпанет.

Багато фірм Кремнієвої долини протягом десятиліть залишалися пов’язаними з військовим сектором, і, як зазначив антрополог Роберто Гонсалес письмовий, майже «всі сучасні технічні гіганти несуть певну ДНК з оборонної промисловості та мають довгу історію співпраці з Пентагоном». Отже, ДНК венчурного капіталу закладена в ці відносини.

Але варто підкреслити, що традиційно саме потреби військових організацій та урядів значною мірою диктували темп, структуру та процес технологічних інновацій.

Зараз темп і фокус військових технологій та інновацій дедалі більше визначаються потужною індустрією технологічних стартапів, що все більше голосить, та їхніми спонсорами, які розв’язали цілий ряд «Патріотична столиця” ініціативи, такі як Американський динамізм; Проект спеціального конкурсного навчання, Перезавантаження арсеналу демократії та Прикордонний фонд Америки. Ці підприємства були задумані кількома видатними компаніями та особами в новій галузі оборонних технологій, щоб сформувати оборонні та військові пріоритети та отримати при цьому хороші прибутки. Підтримувані величезними обсягами венчурного капіталу, компанії-єдинороги поширюються в оборонному просторі, включаючи нових військових технологій, таких як єдинороги Anduril Industries, Щит А.І, Скайдіо, Шкала ШІ та Palantir (Palantir технічно більше не є стартапом, оскільки він став публічним у 2020 році, але він все ще є частиною когорти нових військових технологій).

Це нещодавня подія. Протягом двох десятиліть із середини 90-х до 2014 року сектор венчурного капіталу зосереджував свої зусилля на процвітаючому середовищі цивільних технологій, де небо було межею доходів від технологічних стартапів, таких як Google, Microsoft, Facebook і PayPal.

Навпаки, оборонний ринок вважався зрілим і консолідованим, із суворими правилами та положеннями щодо закупівель і надто малими можливостями для надто великого прибутку від інвестицій. Для реалізації державного контракту часто потрібні багато років. У сфері оборони також домінувала невелика кількість ключових гравців галузі – так звані провідні компанії, серед яких Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics і BAE Systems.

Ці премії поділили між собою левову частку ринку оборони, і здавалося, що для технологічних стартапів було мало можливостей без особливих зусиль отримати доступ до дверей. Наприклад, у 2014 році такі компанії, як Space X і Palantir, подали до суду на ВПС США та Армію США відповідно за можливість брати участь у торгах за певними контрактами. З тих пір використання закону для зламу відкритої оборони військових стартапів стало більш поширеним.

На додаток до цих структурних перешкод для інвестицій венчурного капіталу в оборонний сектор існувала більша номінальна моральна вартість, пов’язана з ідеєю отримання прибутку від війни. Оскільки інвесторами венчурного капіталу часто є фонди, фонди, страхові компанії, університети та пенсійні фонди, існувало зовнішнє небажання розглядати їх як інвестиції в «оборонний портфель» — або, іншими словами, в інструменти смерті. Європейські інвестори венчурного капіталу були особливо обережні.

Однак швидкість, з якою ці тривоги, здається, вщухли менш ніж за десять років, є вражаючою, що свідчить про те, що інвестори підтримують фірми венчурного капіталу походять з різних верств населення які могли б менше вагатися, коли справа доходить до вигоди від військового бізнесу, або що це завжди було просто питанням математики, а не моралі.

Єдинороги та гіперзростання

Сьогодні кожен хоче інвестувати в єдинорога, оскільки він має потенціал різко підвищити вартість.

Але для того, щоб отримати ногою в двері з неперевіреним продуктом або концепцією, деякі стартапи можуть бути мотивовані зробити великі, сміливі заяви про революційний характер їхніх продуктів, що змінюють їх. І навіть після того, як компанія забезпечила фінансування, дух надмірних обіцянок часто залишається закріпленим, щоб підтримувати успіх у напрямку гіперзростання.

У гіршому випадку надмірні обіцянки робляться в таких масштабах, що це дорівнює кримінальному шахрайству, як це було у випадку з сумнозвісним стартапом Theranos з тестування крові, який перетворився на один із найцікавіших стартапів у сфері охорони здоров’я, оцінений у 10 мільярдів доларів США. на своєму піку в 2015 році, аж до повного краху за чотири короткі роки.

У випадку з Theranos харизматичний засновник компанії перебільшував можливості технології, стверджуючи, що вона дозволить провести цілий ряд тестів, які можна провести лише з однієї маленької краплі крові. Ця новаторська технологія "може зробити революцію в медицині та врятувати життя в усьому світі".

Це була обіцянка, орієнтована на майбутнє – технологія ще не могла виконати те, що обіцяли – попри те, компанія стверджувала, що вже має функціонуючий пристрій для тестування, що виявилося брехнею. У 2018 році Theranos розійшлася, а харизматична засновниця Елізабет Холмс потрапила до в’язниці.

Продаж фантазії

Є багато інших, менш драматичних історій, які розгортаються подібним, хоча й не шахрайським чином: компанії, які обіцяють революціонізувати те, як ми робимо повсякденні речі за допомогою новаторських технологій, які виявляються нежиттєздатними, непрацездатними або просто вичерпуються.

Але в результаті інвестори втрачають гроші, і, що важливіше, люди, які звикли покладатися на обіцянку технології, зазнають шкоди.

У контексті оборони обіцянки нових військових технологій обертаються навколо продажу потужне стримуванняабо захист демократії, мати можливість мати вичерпну, точну, знання в реальному часі, a повністю прозорий глобусі, перш за все, чистого, швидка і рішуча перемога з плавним і легким підключенням.

Це може сприяти, у гіршому випадку, фантазії про всезнання та всюдисущість, а в кращому — розпалювати бажання неможливої ​​революції у війні, яка є надто привабливою, щоб їй протистояти, і в кінцевому підсумку залучає до себе дедалі ширшу аудиторію. Ці наративи часто підкріплюються загальним галасом про те, що майбутнє з ШІ неминуче. Це створює потужну сюжетну лінію, яка міфологізує та оцінює технологію, яка може ніколи не виконати обіцяного. Це потужна суміш, яка часто протистоїть більш тверезим голосам що закликають до обережності.

Твердження, висунуті оборонними єдинорогами, часто можуть здаватися правдоподібними, але зазвичай їх неможливо перевірити, оскільки вони стосуються майбутнього. І часто це майбутнє відображає бачення, сформоване художня література та наукова фантастика, яка завжди дещо віддалена від соціальних і політичних викликів реальності.

Ця спокуса надто багатообіцяючих і міфологізація можливих технологій формує програми, спрямовані на швидку реалізацію глобальної прозорості та глобального охоплення. Програма Joint-All-Domain Command and Control (JADC2) є одним із таких заходів, ініційованих Пентагоном. Він спрямований на об’єднання всіх доменів – наземного, повітряного, морського, космічного та кібернетичного – в єдину мережу для «прогнозний аналіз» і «Швидкісний бій".

Щоб зробити програму приємною для Конгресу, JADC2 часто порівнюють з їздити-ділитися платформа Uber, яка обіцяє безперебійну взаємодію між системами та платформами для швидкого втручання. Це переорієнтує увагу на штучний інтелект як інфраструктурну необхідність для всіх військових активів і платформ. Без розширення військового ШІ це бачення буде неможливим. Саме тут є можливість для військових стартапів.

Дві відомі військово-технічні компанії є підрядниками для JADC2 – Андуріл та Palantir. Обидві компанії мало приховують свої амбіції зруйнувати оборонний сектор, повалити нинішні премії та відокремити монопольну частину ринку, щоб забезпечити зростання прибутків.

Палантир має поставив очі про «стати центральною операційною системою для всіх оборонних програм США»; Андуріл заявив, що буде йти "після всього, що є в списку [Міністерства оборони].», щоб домінувати в секторі. Для обох компаній це битва – боротьба за зростання.

Як каже Anduril's Luckey: «вам доведеться боротися та перемагати в кількох областях”. (Він має на увазі це з точки зору корпоративної стратегії, а не реальних полів битв). Подібним чином генеральний директор і співзасновник Palantir Алекс Карп визнав, що для того, щоб зруйнувати оборону як відкритий ринок, він пишається тим, що «тягнули, били ногами, умовляли й принижували” різні законодавці, політики та уряд, щоб сприяти досягненню цієї мети. Рухайся швидко і ламай речі.

Створення єдинорога потребує узгоджених зусиль і агресивної позиції з боку тих, хто може отримати найбільшу фінансову вигоду в цій сфері. Найкраще це робити в союзі з іншими однодумцями. У нинішньому ландшафті оборонного венчурного капіталу існує тісна переплетення засновників і спонсорів.

Наприклад, Пітер Тіль є співзасновником Palantir, він також керує компанією Founders Fund VC, яка має інвестиції в Space X, Anduril і Scale AI, серед інших. Компанія венчурного капіталу Andreessen Horowitz також фінансує SpaceX, Anduril, Shield AI і Skydio. Менеджери цих венчурних компаній мають давні зв’язки один з одним. Так само існує переплетення між компаніями. Anduril, наприклад, був заснований колишніми співробітниками Palantir, які взяли свій досвід від Palentir і застосували його в Anduril. Палмер Лакі, колишній співробітник Oculus Rift, був призначений її харизматичним і відвертим генеральним директором.

Пітер Тіль та Ерік Шмідт (колишній генеральний директор Google і голова Комісії національної безпеки США зі штучного інтелекту) інвестування в Американському прикордонному фонді тощо. Існує тісно згуртована та дуже добре пов’язана мережа фінансистів і стартапів, які всі працюють над тим, щоб подвоїти головне повідомлення: сектор оборони потребує зриву, і ми повинні потрясти ситуацію.

На нещодавній панелі надання свідчень до Комітету зі збройних сил США були представники п’яти військових стартап-компаній. Кожен із п’яти був або профінансований венчурною фірмою Andreessen Horowitz, або іншим чином пов’язаний з фірмою.

На слуханнях у Комітеті збройних сил США головний технічний директор Palantir Шям Санкар, дав свідчення виступаючи за «більше божевілля» та за «дозволити панувати хаосу» у процесі військових закупівель і закупівель, щоб можна було сприяти створенню необхідних стимулів для інновацій через міжвідомчу конкуренцію.

Регуляторні обмеження, на його думку, «обмежують вас до нагляду», і він «з радістю погодився б на нові невдачі, якби це означало, що ми досягли катастрофічного успіху». Який це може бути успіх або які наслідки для невдачі, залишається незрозумілим, але очевидно, що технічний директор Palantir говорить з логікою венчурного капіталу. І, згідно з нещодавнім US Звіт Ради оборонних інновацій, схоже, що уряд готовий піти на більший ризик і забезпечити верхнє прикриття для таких «диваків».

«Кризовий» наратив

Окрім розвитку стартапів із високим потенціалом, існує кілька способів пристосувати оборонний сектор до потреб підрядників із Силіконової долини та їхніх венчурних спонсорів. Сила наративів тут також має велике значення. Менеджери венчурного капіталу та їхні стартапи часто пишуть резонансні статті, в яких скаржиться на поганий стан оборони (США)., в яких потреба в прискорені інновації підкреслюється, і в якому ймовірність того, що США можуть «дуже ймовірно» бути втягнутими у «війну на три фронти з Китаєм, Росією та Іраном» накликаний. Коротше кажучи, розгортається історія про невідкладність, яка допомагає оцінити ті компанії, які, як вважають, вирішують неминучу кризу.

Другий стовп у структурній перебудові оборони полягає в тому, щоб залучити заплутану мережу колишніх державних службовців, які виступають або як лобісти, або як радники, тісно пов’язані з урядом.

Колишній конгресмен-республіканець Майк Галлахер, наприклад, у серпні 2024 року став головою відділу оборонних операцій Palantir і колишнім радником з національної безпеки HR McMaster зараз є старшим радником Shield Capital. Таких ще багато»обертові дверімоменти, коли надійні експерти надають свій авторитет новим стартапам. Сцена військово-технічних стартапів, як і більшість творінь Кремнієвої долини, має певну репутацію, і гроші також привабливі.

Андуріл, дізнавшись від Палантіра, найняв низку лобістів у перший тиждень, витрачаючи більше грошей на "юристи та лобісти, ніж інженери», як зазначив Лакі в нещодавньому інтерв'ю The Economist.

Завдяки цьому Anduril приймає відносно традиційний спосіб формування оборонного ландшафту, який також використовують головні оборонні підрядники, які, як Anduril визнає в Повідомлення в блозі 2022, стимул «витрачати значні кошти на команди юристів і лобістів для формування програмних вимог відповідно до існуючих технологій компанії».

Anduril та його спонсори зараз роблять те ж саме, пристосовані до власного набору технологій. Юристів часто наймають не лише для нагляду за злиттями, поглинаннями та партнерствами, але й для того, щоб використовувати закон як інструмент для проведення реформ.

Головною метою судових процесів SpaceX і Palantir проти армії та військово-повітряних сил США, про які я згадував раніше, була не обов’язкова перемога (позов Space X не був успішним, судовий процес Palantir був), а відкрити простір для капітального ремонту придбань, і обидва позови досягли саме цього .

Стратегія створення відчуття невідкладності, подвоєння лобістів і створення структурної можливості для капітального ремонту оборони зараз активно розробляється. Щоб було зрозуміло, я не стверджую, що оборонний сектор не виграє від модернізації чи реструктуризації. Я також не стверджую, що всі військові стартапи є неактуальними або нежиттєздатними. Я також не намагаюся протиставити премії нової динаміки венчурного капіталу та їхньої зосередженості на зростанні.

Але те, що, на мою думку, варто вивчити, так це динаміку цих нових компаній та їхні неявні пріоритети та інтереси, оскільки вони формуватимуть практику та пріоритети. А там, де відбувається збій, слід очікувати певного рівня поломки. І це набуває іншого відтінку в питаннях життя і смерті.

Порушення сміття

Деструкція оборонного сектору йде повним ходом, і спроби сформувати його за образом Силіконової долини в останні роки принесли свої плоди й дали ряд конкретних результатів. Програма JADC2, згадана раніше, є однією з них. Інші очевидні в таких програмах, як програма Міністерства оборони США Ініціатива реплікатора, який містить цілі, часові рамки та продукти, які можуть запропонувати військові стартапи Кремнієвої долини.

Високий рівень чиновники оборони повторюють теми розмов про індустрію венчурного капіталу та різні програми придбання пристосувалися до розміщення необхідні швидкість і масштаб. Ці компанії мають вухо політиків і вимоги до квазі-духовного “Оборонна реформа» знаходять все більшу аудиторію.

Отже, які можливі наслідки?

Коли Uber зруйнував індустрію приватного транспорту, він залишив за собою цілу низку зруйноване трудове законодавство, права працівників і положення про охорону здоров'я водіїв. Коли AirBnB сколихнув індустрію розміщення, це призвело до підвищені ціни на оренду в популярних туристичних місцях. Коли ви намагаєтеся створити монополію, завжди виникають соціальні та політичні наслідки. Часто ці наслідки можна передбачити, іноді – ні.

Порушення процесу закупівель для оборони відбувається, як мінімум, за рахунок більшого нагляду за процесом закупівель. Технологічний сектор не відомий своєю оцінкою нормативних меж. Навпаки. Деякі з найвідоміших спонсорів нового військового стартапу є найбільш голосно проти до будь-якого тип регулювання.

Наприклад, відомий автор VC-важковаговика Марка Андріссена маніфест технооптимістів у якому він називає «ворогом» управління ризиками, заходи довіри та безпеки, а також принципи обережності.

Менше регулювання означає менше нагляду та підзвітності не лише щодо витрат, але й щодо того, як і де використовуються певні технології та з якими ефектами. Це очевидно.

Але є багато інших дуже правдоподібних наслідків, які ми могли б передбачити завдяки прискореному придбанню та розгортанню військових технологій для бою. Одна з них – переорієнтація на ризик і експерименти.

Поточний урожай військових стартап-технологій, як-от безпілотники з підтримкою штучного інтелекту та системи підтримки прийняття рішень штучним інтелектом, випробовуються та вдосконалюються в реальному часі та під час поточних конфліктів, таких як російсько-українська війна, а також у Газі. Це форма макетування яка стає все більш помітною і потребує активного поля бою для ефективного тестування, ітерації та оптимізації технологій.

Це також означає, що цілком можливо, що будуть використані технології, які не підходять для цілей, лише для того, щоб перевірити їх і вдосконалити по ходу роботи. Це нормалізує, якщо не сприяє, запуску та продажу дефектних і, можливо, неадекватних продуктів ШІ, які неминуче завдадуть шкоди невинним цивільним особам, які опинилися в центрі конфлікту.

Ми можемо спостерігати це прямо зараз, коли технологічні компанії намагаються продавати свої великі мовні моделі військовим організаціям. Scale AI, наприклад, об’єднався з Meta для продажу продукту LLM, Лама захисту, для потреб оборони. Компанія каже, що людська участь є «абсолютно необхідною» для системи.

Але враховуючи загальновідомий факт Оскільки LLM схильні до того, що називається галюцинаціями, шанси, що такі технології працюватимуть саме так, як рекламується, є незначними для такого складного та динамічного контексту, як війна. Це може завдати шкоди тим, хто опиниться в центрі цього експерименту, тонкого налаштування та тестування в реальному часі. Основне занепокоєння полягає в тому, що технологія може бути непридатною для несподіваних, менш обчислюваних або менш передбачуваних елементів у війні. Це включає потенційні нові терористичні загрози або дії тих держав, які часто вважаються ірраціональними; як Північна Корея, наприклад.

Генеральний директор Anduril, Лакі, зізнався в цьому в інтерв’ю, яке я почав. Він визнав, що логіка, на основі якої побудована його зброя, розпадається через потенційних ворогів, які уникають теоретичного підходу до гри, на якому базується значна частина логіки штучного інтелекту для захисту: «Дуже важко займатися теорією ігор з людьми, які займаються неігрою теорія оптимальної стратегії… Це як грати в монополію з людиною, яка збирається кинути навчання та віддати всі свої гроші комусь іншому». Серйозне обмеження для чогось настільки пронизаного випадковістю, як війна.

Існують також ефекти другого та третього порядку, які випливають із цього переходу до логіки венчурного капіталу. Викликаючи неминучу загрозу, ширший глобальний ландшафт ризиків і безпеки може змінитися; шляхом надання пріоритетів технологіям озброєння можна скоротити фінансування інших способів вирішення конфлікту; якщо виділити все більшу суму на технології, які залишаються неперевіреними та які можуть бути непостійними, значні суми грошей, які було б краще розподілити деінде, можуть бути витрачені даремно.

Але це країна вигадок і єдинорогів, де такі міркування є такими ж спекулятивними, як і гучні обіцянки штучного інтелекту як зброї для захисників демократії.

У Кремнієвій долині девіз «рухайся швидко і ламай речі» передбачає, що проблеми, які виникають під час розгортання технології, завжди можна вирішити та вирішити пізніше. У світі оборони та війни шкоду, спричинену таким ризиком, не можна так легко усунути.

The Conversation поставив питання, підняті в цій статті, до названих компаній технологічного та венчурного капіталу. Вони не відповіли на наш запит про коментар.

Ельке Шварц, читач політичної теорії, Лондонський університет королеви Марії

Ця стаття перевидана з Бесіда за ліцензією Creative Commons. Читати оригінал статті.

Схожі книги:

Про тиранію: двадцять уроків двадцятого століття

Тімоті Снайдер

Ця книга містить уроки історії щодо збереження та захисту демократії, зокрема важливість інституцій, роль окремих громадян та небезпеки авторитаризму.

Натисніть, щоб дізнатися більше або замовити

Наш час зараз: сила, мета та боротьба за справедливу Америку

Стейсі Абрамс

Автор, політик і активіст, ділиться своїм баченням більш інклюзивної та справедливої ​​демократії та пропонує практичні стратегії політичної участі та мобілізації виборців.

Натисніть, щоб дізнатися більше або замовити

Як помирають демократії

Стівена Левицького та Деніела Зіблата

У цій книзі розглядаються тривожні ознаки та причини розпаду демократії, спираючись на тематичні дослідження з усього світу, щоб запропонувати розуміння того, як захистити демократію.

Натисніть, щоб дізнатися більше або замовити

Народ, ні: коротка історія антипопулізму

Томас Франк

Автор пропонує історію популістських рухів у Сполучених Штатах і критикує «антипопулістську» ідеологію, яка, на його думку, придушила демократичні реформи та прогрес.

Натисніть, щоб дізнатися більше або замовити

Демократія в одній книзі або менше: як це працює, чому не працює і чому виправити це простіше, ніж ви думаєте

Девід Літт

Ця книга пропонує огляд демократії, включно з її сильними та слабкими сторонами, а також пропонує реформи, щоб зробити систему більш сприйнятливою та підзвітною.

Натисніть, щоб дізнатися більше або замовити

Резюме статті:

Венчурні капіталісти Кремнієвої долини просувають військові інновації штучного інтелекту, одночасно поширюючи свій підривний дух на демократичні процеси. Оборонна промисловість, тривалий час стійка до змін, тепер у владі венчурних стартапів, які обіцяють ефективність, але ризикують хаосом. Це ж прагнення до зриву підживлює втручання у вибори, використовуючи слабкий регулятивний нагляд і віддаючи пріоритет прибутку над суспільним благом. Оскільки військові системи дедалі більше формуються неперевіреним ШІ, а демократія підривається корпоративними амбіціями, ставки ніколи не були такими високими.

Hashtags:
#SiliconValley #ElectionInterference #MilitaryAI #TechRisks #DemocracyUnderThreat