Пентагон проти Anthropic

Що сталося

Пентагон вніс компанію Anthropic до чорного списку через її відмову використовувати штучний інтелект для нагляду за громадянами та створення автономної зброї. Ця рішення стала наслідком конфлікту між компанією та адміністрацією Трампа, яка вимагала дозволу використовувати технологію для будь-яких законних цілей.

Подробиці

Компанія Anthropic раніше розробляла потужний модель штучного інтелекту Claude, який використовувався Пентагоном для управління секретною інформацією. Однак, під час переговорів про військове використання цієї технології, компанія встановила два обмеження: заборона на використання її технології для масового нагляду за громадянами та створення автономної зброї. Адміністрація Трампа відхилила ці обмеження, вважаючи їх надто обмежувальними.

Директор виконавчий компанії Anthropic, Даріо Амодей, заявив, що використання таких систем для створення автономної зброї є надто ризикованим, оскільки вони можуть зробити помилки під час виконання завдань. Через це, Пентагон вирішив внести компанію до чорного списку, що означає заборону для інших контракторів армії використовувати послуги компанії.

Що це означає

Ця Entscheid Пентагону може мати значні наслідки для компаній, які працюють з штучним інтелектом, оскільки вони тепер будуть змушені обирати між співпрацею з армією та дотриманням принципів етичного використання технологій. Крім того, це рішення може вплинути на розвиток галузі штучного інтелекту в цілому, оскільки компанії будуть змушені зважувати ризики та переваги співпраці з військовими структурами.