Пентагон висунув ультиматум творцям Claude на $200 млн

NEWSGROUP.SITE | Ексклюзивний аналіз

Політикам, схоже, стало нудно жити. Маючи заброньовані місця в елітних бункерах або власні сховища, вони спокійно граються з технологіями, які можуть знищити все живе на планеті. Наражати світ на небезпеку, роблячи ШІ доступним для військового призначення — це вже не просто обговорення. Це означає, що технологія вже працює в багатьох спектрах.

І найстрашніше: політики навіть не уявляють наслідків. Вони не розуміють, як швидко можуть втратити контроль. Одна маленька помилка — і управління перейде до групи хакерів, які вимкнуть усе, що забажають.

Ультиматум Пентагону: Що сталося?

За даними обізнаних джерел, Міністерство оборони США висунуло компанії Anthropic, творцю популярної моделі штучного інтелекту Claude, жорсткий ультиматум.

Вимоги Пентагону:

Зняти дві ключові обмеження безпеки з моделі Claude для військового використання:

Заборону на повністю автономну летальну зброю (ШІ, який самостійно обирає та уражає цілі без значущого контролю людини)
Заборону на масове стеження за громадянами США

Натомість Пентагон вимагає дозволити необмежене “законне” військове застосування Claude.

Що загрожує Anthropic у разі відмови:

скасування наявного засекреченого контракту на суму близько $200 млн;
визнання компанії “ризиком для ланцюга постачань”;
можливе застосування Закону про виробництво для оборони (Defense Production Act) для примусової зміни політики.

Позиція Anthropic: Етика проти грошей

Anthropic заявила, що не піде на компроміс щодо цих конкретних обмежень, посилаючись на етичні принципи “конституційного ШІ”, закладені в основу їхньої моделі.

Водночас компанія підтримує “законне використання для національної безпеки” — але що саме вважати “законним”, коли йдеться про автономні летальні системи?

Чому це важливо? Конфлікт, який визначить майбутнє

Ця ситуація ілюструє глибокий конфлікт між приватними стандартами безпеки ШІ та військовими пріоритетами США в гонці з Китаєм.

З одного боку:
Приватні компанії намагаються утримати хоча б мінімальні етичні обмеження, розуміючи, що передача контролю над летальною зброєю штучному інтелекту може призвести до катастрофи.

З іншого боку:
Пентагон, підганяний страхом відстати від Китаю у технологічних перегонах, готовий пожертвувати будь-якими обмеженнями заради “переваги на полі бою”.

Про що мовчать політики

Політики, які ухвалюють такі рішення, або мають заброньоване місце в елітному бункері, або володіють власним сховищем десь у горах. Вони наражають світ на небезпеку, навіть не уявляючи її масштабів.

Вони не розуміють трьох простих речей:

Контроль ілюзорний. Будь-яка система, створена людиною, може бути зламана людиною. Питання лише в часі.
Помилки фатальні. У звичайному програмному забезпеченні помилка означає збій. У системі автономної летальної зброї помилка означає смерть тисяч.
Ескалація неминуча. Якщо США створять автономну летальну зброю, Китай створить свою. Якщо Китай створить — Росія створить. А далі — гонка, в якій переможців не буде.

Сценарій “Термінатора” вже не фантастика

Публічні побоювання щодо етичних ризиків, подібних до сценаріїв “Термінатора”, більше не здаються перебільшенням.

Уявіть:

Рій дронів, який самостійно обирає цілі на основі алгоритмів розпізнавання облич.
Системи, які вирішують, хто “ворог”, а хто “свій”, без участі людини.
Алгоритми, що керують ядерним арсеналом, реагуючи на загрози швидше, ніж людина встигає подумати.

Звучить як наукова фантастика? Можливо. Але сьогодні Пентагон вимагає зняти саме ті обмеження, які поки що утримують людство від цього краю прірви.

Сценарій "Термінатора" вже не фантастика

Ще одна небезпека: Хакери та втрата контролю

Найстрашніше в цій історії навіть не сама зброя, а те, як швидко політики можуть позбутися контролю над нею.

Одна маленька помилка в коді. Один вразливий сервер. Один зрадник усередині системи. І група хакерів отримує доступ до всього: від систем наведення до супутникового зв’язку.

Уявіть світ, де хакери можуть “вимкнути” армію супротивника одним натисканням клавіші. А потім уявіть, що вони можуть “вимкнути” все — включаючи електромережі, водопостачання, лікарні.

Це не сценарій фільму жахів. Це реальність, до якої ми стрімко наближаємося.

Позиція NewsGroup.Site

Ми не проти технологій. Ми проти безвідповідальності.

Політики, які сьогодні вимагають зняти обмеження зі ШІ, не розуміють, з чим граються. Вони бачать лише короткострокову “перевагу” — і не помічають довгострокової катастрофи.

Автономна летальна зброя — це не просто новий вид озброєнь. Це кінець людського контролю над війною. А значить — кінець будь-яких обмежень.

Коли машина вирішує, кого вбивати, людство перестає бути людством.

Ми закликаємо:

Не дозволяти зняття обмежень на автономну летальну зброю.
Посилити міжнародний контроль за розробками ШІ військового призначення.
Створити глобальний договір про заборону автономних систем убивства.

І головне — нагадати політикам: бункери не врятують. Коли системи вийдуть з-під контролю, сховатися буде ніде.

Незалежні новини від News Group – Дякує Вам за підтримку та активність, ми цінуємо кожного, та хвилюємось за Вас, якщо ви бажаєте підтримати наш проєкт або додати пропозицію.

Для звʼязку переходьте за посиланнями: