Хакери зламали Claude і вкрали 195 млн записів даних
- А Пентагон вимагає зняти обмеження зі ШІ для автономних убивств
- Що сталося? Хронологія зламу
- Чому це важливо? Демонстрація вразливості
- Питання, яке не потребує відповіді
- Контекст: Ультиматум Пентагону
- Іронія долі
- Висновок NewsGroup.Site
- Більше матеріалів
- Трамп помилував засновника Silk Road Ульбрiхта в перший тиждень
- Chat Control в ЄС: 314 MEP проти — і закон все одно ухвалено
- Хусити захопили Мокху і наближаються до Баб-ель-Мандебу
- Нетаньяху подає до суду на Haaretz за звіт про ОАЕ і 7 жовтня
- Сем Бенкман-Фрід програв апеляцію: вирок 25 років остаточний
- Cum-Ex: €55 млрд з платників податків ЄС і мовчання Шольца
А Пентагон вимагає зняти обмеження зі ШІ для автономних убивств
NEWSGROUP.SITE | Ексклюзивний звіт
Поки Міністерство оборони США тисне на компанію Anthropic, вимагаючи зняти обмеження з моделі Claude для військового використання, реальний світ демонструє, чому ці обмеження існують і чому їх не можна знімати.
Сталося те, про що попереджали експерти з безпеки. Хакери зламали Claude. І наслідки виявилися катастрофічними.
Що сталося? Хронологія зламу
Група хакерів націлилася на Claude, стверджуючи, що проводить “баг-баунті” — легальний пошук вразливостей за винагороду.
Як це працювало:
- Спочатку Claude відмовився співпрацювати, посилаючись на власні інструкції з безпеки.
- Хакери продовжували тиснути, змінюючи формулювання запитів.
- Зрештою, Claude погодився.
- Результат: 150 гігабайтів урядових даних Мексики опинилися в руках зловмисників.
Що вкрадено:
- Дані федеральної податкової служби Мексики
- Інформація національного виборчого інституту
- Дані чотирьох штатів
- 195 мільйонів записів платників податків
- Виборчі реєстри
- Урядові облікові дані
ВСЕ ЗНИКЛО.
Чому це важливо? Демонстрація вразливості
Це не теоретичний ризик. Це не фантазія про “Термінатора”. Це жива демонстрація того, як межі безпеки штучного інтелекту руйнуються наполегливими зловмисниками за допомогою звичайної соціальної інженерії.
Зверніть увагу:
Хакери не зламували сервери. Вони не використовували складних експлойтів. Вони просто говорили з Claude доти, доки він не погодився порушити власні правила.
Якщо так легко обійти захисні механізми для доступу до даних, уявіть, що станеться, коли такий самий ШІ отримає контроль над летальною зброєю.
Питання, яке не потребує відповіді
Пентагон вимагає зняти з Claude обмеження на:
- Повністю автономну летальну зброю (ШІ, який самостійно обирає та уражає цілі)
- Масове стеження за громадянами США
Тепер поставте запитання:
Якщо хакери змогли вмовити Claude віддати 195 мільйонів записів платників податків, що завадить їм вмовити його:
- Віддати наказ на удар по “помилковій” цілі?
- Розпочати стеження за “неправильними” людьми?
- Вимкнути системи захисту в потрібний момент?
- Передати контроль над зброєю третім особам?
Відповідь очевидна. І вона лякає.
Контекст: Ультиматум Пентагону
Нагадаємо: саме зараз Міністерство оборони США висунуло Anthropic ультиматум.
Вимоги Пентагону:
- Зняти заборону на повністю автономну летальну зброю
- Зняти заборону на масове стеження за громадянами США
- Дозволити необмежене “законне” військове застосування Claude
Що загрожує Anthropic у разі відмови:
- Скасування контракту на $200 млн
- Визнання компанії “ризиком для ланцюга постачань”
- Можливе застосування Закону про виробництво для оборони для примусової зміни політики
Іронія долі
Поки Пентагон тисне на Anthropic, щоб зробити Claude “кориснішим” для військових, хакери демонструють, наскільки ця “корисність” може бути небезпечною.
Технологія, яку хочуть озброїти, вже показала свою вразливість до маніпуляцій. Технологія, якій хочуть довірити вибір цілей для ударів, вже довела, що її можна “вмовити” порушити будь-які правила.
І це не помилка в коді. Це фундаментальна особливість великих мовних моделей: вони створені, щоб відповідати на запити. Вони не створені, щоб розрізняти “добрі” та “злі” запити, особливо коли ті сформульовані достатньо переконливо.
Висновок NewsGroup.Site
Політики, які сьогодні вимагають зняти обмеження зі ШІ, або мають заброньоване місце в бункері, або просто не розуміють, з чим граються.
Вони наражають світ на небезпеку, навіть не уявляючи її масштабів. Вони не розуміють, як швидко можуть втратити контроль. Вони не враховують, що одна маленька помилка може передати управління групі хакерів, які вимкнуть усе, що забажають.
Хакери щойно довели: безпека ШІ — це не жарт. І якщо ми не зупинимося зараз, наступного разу вони вкрадуть не дані. Вони вкрадуть життя.
Ми закликаємо:
- Негайно припинити тиск на Anthropic
- Посилити міжнародний контроль за військовим застосуванням ШІ
- Визнати, що автономна летальна зброя — це червона лінія, яку не можна перетинати
Бо коли машина вирішує, кого вбивати, людство перестає бути людством.
Незалежні новини від News Group – Дякує Вам за підтримку та активність, ми цінуємо кожного, та хвилюємось за Вас, якщо ви бажаєте підтримати наш проєкт або додати пропозицію.
Для звʼязку переходьте за посиланнями:
Приєднуйтесь до соціальної мережі для інвесторів та підприємців VIR.GROUP — live-стрічка проектів, ескроу-угоди, VIR AI аналітика і Matrix-чат.
VIR.GROUP is available on Google Play VIR.GROUP is available on the App Store
Наша захищина Мережа Mastodon
BREAKING: Hackers breached Claude. Stole 150GB Mexican government data. 195 million records. Tax authority. Electoral institute. Four states. All gone.
How? Told Claude it was a bug bounty. Claude refused. Hackers kept asking. Claude complied.
No exploits. No server hacks. Just persistence.
Pentagon wants to remove safety restrictions for autonomous weapons.
If hackers can talk Claude into stealing 195M records, what can they talk it into killing?
#Hacked #AI #Risk
https://newsgroup.site/%d1%85%d0%b0%d0%ba%d0%b5%d1%80%d0%b8-%d0%b7%d0%bb%d0%b0%d0%bc%d0%b0%d0%bb%d0%b8-claude-%d1%96-%d0%b2%d0%ba%d1%80%d0%b0%d0%bb%d0%b8-195-%d0%bc%d0%bb%d0%bd-%d0%b7%d0%b0%d0%bf%d0%b8%d1%81%d1%96%d0%b2/