Штучний інтелект може допомогти створити реальний патоген за лічені тижні.
Нещодавно компанія Anthropic повідомила про п’ять випадків, коли клієнти використовували їхні моделі ШІ для дій, що могли б підтримати розробку біологічної зброї. Серед них — допомога у підготовці пропозиції щодо досліджень зі згодою на отримання прибутку (gain-of-function) над вірусом, що передається комарами, у військовому інституті, а також планування експериментів, спрямованих на покращення здатності пташиного грипу інфікувати ссавців. Anthropic не змогла визначити наміри, але все одно заблокувала запити.
Саме ця невизначеність є проблемою. Ті самі інструменти, які вчені можуть використовувати для розробки вакцини, можуть допомогти у створенні більш небезпечного патогену. Інструменти, що допомагають вченим розробляти ліки, які цільово знищують ракові клітини, оминаючи здорові, можуть бути переналаштовані для створення ліків, що вражають виключно здорові клітини. Нікому не потрібно просити ШІ «створити біологічну зброю». Достатньо виглядати як науковець, що працює над важливими біологічними проблемами.
Anthropic, яка закрила відповідні облікові записи, найвідвертіше говорила про ризики ШІ для розробки біологічної зброї. OpenAI також запровадила захисні механізми. Інші компанії, що займаються ШІ, особливо ті, що пропонують моделі з відкритим кодом (з якими будь-хто може завантажити та модифікувати базовий код без нагляду компанії), зазвичай випускають свої продукти з набагато меншою кількістю захисних заходів і слабким моніторингом використання їхніх інструментів.
Значна частина дискусій про безпеку в індустрії зосереджена на тому, чи варто «випереджати прогрес» — сповільнювати розробку моделей, щоб захисні механізми та засоби протидії могли наздогнати. Це варто робити, але це спрацює лише як міст до створення біологічної оборони. А сповільнення розробки моделей, безумовно, не впливає на те, хто може замовляти синтетичну ДНК, або на дії національних урядів, спрямовані на посилення їхніх можливостей.
Десятиліттями біологічна зброя була рідкістю з певної причини: її створення вимагає експертизи, яку важко отримати, а ще важче поєднати. Імунологія, вірусологія, культивування патогену та стабілізація небезпечної мутації — все це вимагає різних навичок. Людей, які могли б поєднати ці елементи, дуже мало.
ШІ скорочує ці прогалини. Моделі, навчені на біологічній літературі, можуть пов’язувати ідеї з різних підгалузей, якими мало хто з дослідників оволодів самостійно. Ці моделі можуть розширити можливості та небезпеку особи з відповідною підготовкою в одній галузі, допомагаючи їй опанувати ключові кроки в іншій.
Два звіти цього року — один від Гарварду, інший від RAND — незалежно один від одного дослідили ці питання і дійшли схожих висновків: ШІ може розширити коло суб’єктів, здатних здійснити великомасштабну біологічну атаку, а також підвищити спроможності державних програм. Жоден з них не стверджує, що найнебезпечніші пороги вже досягнуто, хоча жоден і не виключає цього. Безпечніше припустити, що ми вже достатньо близькі, щоб не чекати і не дізнаватися.
Щорічний звіт розвідувального співтовариства Державного департаменту США неодноразово підтверджував, що Росія та Північна Корея мають програми наступальної біологічної зброї, водночас висловлюючи занепокоєння щодо Китаю та Ірану. У 2024 році The Washington Post задокументувала масштабне розширення колишнього радянського об’єкта з розробки біологічної зброї під Москвою, Сергієв Посад-6, включаючи нові будівлі з високим рівнем біозахисту. Більшість заходів, на які вказують звіти розвідки, передували появі ШІ. Завдяки ШІ державні програми можуть розширити кількість нових розробок.
Недержавні актори — терористичні групи та інші — також намагалися отримати доступ до цієї зброї, створюючи власні потужності або атакуючи об’єкти, що вже мають такі можливості. Йдеться не про підлітка в підвалі, який створює зброю, а про серйозних акторів з ресурсами, оснащених інструментами біоінженерії та підживлюваних ШІ.
І є другий бар’єр — який також швидко руйнується.
У статті, опублікованій цього року в Nature Communications, описується експеримент, під час якого дослідники замовили генетичні фрагменти вірусу іспанського грипу 1918 року, і 36 з 38 компаній, що займаються синтезом ДНК, надіслали послідовності. Цього достатньо для кваліфікованої особи, щоб відтворити вірус. Хоча Програма відібраних агентів США (федеральна програма, що контролюється CDC та Міністерством сільського господарства) забороняє цілісні генетичні матеріали, здатні виробляти небезпечні патогени, коротші, легко збирані фрагменти залишаються нерегульованими.
Але ось головне: навіть якби у нас була ідеальна система відсіювання, яка б забороняла людям замовляти фрагменти ДНК, які пізніше можна було б зібрати, цього було б недостатньо. Синтез ДНК — це глобальний ринок, і послідовність, заблокована в одній країні, може бути замовлена з іншої. Хтось, десь, отримає доступ до бажаних матеріалів, якщо буде достатньо наполегливим.
Ландшафт загроз розвивається швидше, ніж наші захисні механізми. Генетичний план, створений ШІ, може стати реальним патогеном за лічені тижні. Так, перетворити ідею на реальний патоген все ще складно — відсоток невдач високий, — але достатньо суб’єктів намагаються, щоб дехто з них досяг успіху.
Біомедицина вступає в один зі своїх найпродуктивніших періодів за останні десятиліття, значною мірою завдяки цим самим інструментам. Широкі обмеження сповільнять дослідження хвороб, які ми могли б швидше зрозуміти та вилікувати. Немає жодного розумного способу ввести обмеження, щоб запобігти використанню інструментів для створення біологічної зброї, не перешкоджаючи прогресу в наступному поколінні терапій.
Тож що ще можна зробити? Нам потрібен багаторівневий захист, який починається з доступу та дизайну моделей. Обґрунтованим є надання верифікованим дослідникам доступу до передових біологічних моделей для законної роботи, але вимагається відповідний нагляд. Розробники повинні тестувати моделі на наявність небезпечних можливостей перед випуском.
Уряди могли б вимагати від постачальників синтезу ДНК перевіряти клієнтів, відсіювати подрібнені замовлення та проходити незалежні аудити третьої сторони, щоб переконатися, що система працює. Хоча існує широкий консенсус щодо необхідності цього, його реальна ефективність неясна.
Так само, домогтися від розробників моделей ШІ з відкритим кодом дотримання тих самих стандартів тестування та захисних заходів, що й у передових лабораторіях ШІ (таких як Anthropic та OpenAI), — це мета, до якої варто прагнути, але очікувати повного дотримання нереалістично. І варто пам’ятати, що ці моделі, одного разу випущені, неможливо відкликати.
Значна частина дискусій про регулювання ШІ стосується швидкості, автономії та контролю над передовими розробками. Тимчасове уповільнення може виграти час у всіх трьох аспектах.
Але цей час варто вигравати лише для того, щоб його витратити на розбудову наших захисних механізмів. Ми не можемо покладатися на те, що кожна лабораторія, кожна країна та кожен розробник з відкритим кодом забезпечать належну біобезпеку. Вони цього не зроблять. З часом це означатиме, що розробка та потенційне використання біологічної зброї стануть більш імовірними. Захист від цієї загрози потребує років для створення. У нас немає років у запасі.
Sourse: abcnews.go.com