Военный запрет OpenAI: дырка в заборе

Хочу рассказать вам историю, которая заставила меня задуматься о том, как AI-компании на самом деле обращаются со своими «этичными» принципами.

OpenAI всегда позиционировала себя как ответственная компания. Защитные ограждения, чёткие правила — военным здесь не место. Всё чётко: оружие, война, помощь в убийстве — нет, спасибо.

Но! По данным Wired, Пентагон всё равно тихо тестировал технологию OpenAI. Каким образом? Через Microsoft.

Видите ли, Microsoft — это огромный партнёр OpenAI. Они по сути облачный провайдер и канал дистрибуции для ChatGPT и всего остального. И когда Минобороны захотело проверить возможности этих мощных моделей, они обратились прямиком к Microsoft, а не к OpenAI напрямую.

Представьте себе: OpenAI повесила табличку «Въезд военным запрещён» у парадного входа, но оставила задние ворота (через Microsoft) нараспашку.

А дальше ещё интереснее. OpenAI недавно изменила свою политику в отношении военного применения. То, что было жёстким «нет», превратилось в «ну, зависит от того, как именно вы это используете». Теперь компания говорит, что некоторые военные задачи — логистика, кибербезопасность, поисково-спасательные операции — возможно, допустимы.

И вот тут начинается философия. Это прозрачность? Признание того, что AI слишком полезен, чтобы полностью исключать его из обороны? Или всё-таки этика прогнулась под бизнес?

Давайте будем честны. Оборонные контракты — это огромные деньги. А когда твой главный бизнес-партнёр (Microsoft) уже глубоко завязан на военные технологии через контракт JWCC, те строгие этические границы начинают выглядеть... ну, очень гибкими.

Как думаете? Это просто естественное взросление AI-компаний по мере роста? Или нам стоит волноваться, когда «мы не работаем с военными» на самом деле означает «мы не работаем с военными напрямую»?

Одно ясно точно: разрыв между тем, что техно-компании говорят про этику AI, и тем, что происходит за кулисами, игнорировать всё сложнее.

Суть

Эта история не о том, что Microsoft или OpenAI — злодеи. Дело в сложной реальности создания мощных AI-технологий в мире, где могущественные институты хотят их использовать.

Вопрос не в том, будет ли AI применяться в обороне — он уже применяется. Вопрос в том, будем ли мы честно об этом разговаривать.

А что думаете вы? Пишите в комментариях — мне правда интересно ваше мнение.

Источник: Wired — OpenAI Had Banned Military Use. The Pentagon Tested Its Models Through Microsoft Anyway