Когато „не" означава „не директно"

Ето една история, дето ме накара да се замисля сериозно как AI компаниите си прокарват „етичните" политики.

OpenAI винаги са се представяли като отговорната компания в бранша, нали? Тази с предохранителите. Тази, дето от първия ден забрани военна употреба. Ясно и категорично: не на оръжията, не на войната, не на всичко свързано с това.

Но според скорошен материал на Wired, Пентагонът тихомълком си играел с технологията на OpenAI. Как? Чрез Microsoft.

Виж каква е работата: Microsoft има огромно партньорство с OpenAI — те са основният cloud доставчик и разпространител на ChatGPT и подобни инструменти. И когато Министерството на отбраната на САЩ решило да тества какво могат тези мощни AI модели, отишло директно при Microsoft, вместо да се обади на OpenAI.

Представи си го така: OpenAI поставили надпис „Влизане с военна техника забранено" на главния вход, но оставили задната врата (през Microsoft) широко отворена.

Интересното е, че OpenAI вече промениха политиката си за военни приложения. Онова, което беше твърдо „не", се превърна в нещо като „ами, зависи как го използваш". Сега компанията казва, че определени военни приложения — като логистика, киберсигурност и издирване и спасяване — може би са приемливи.

И тук става философски размито. Това прозрачност ли е? Признание, че AI е твърде полезен, за да бъде изцяло изключен от отбраната? Или става дума за етика, която се огъва пред бизнес интересите?

Нека бъдем честни. Отбранителните договори са огромни. И когато най-големият ти бизнес партньор (Microsoft) вече е дълбоко замесен във военни технологии чрез неща като Joint Warfighter Cloud Capability договора, тия строги етични граници изведнъж стават доста по-гъвкави.

Как мислиш? Това нормалното съзряване на AI компаниите, докато растат? Или трябва да ни е страх, когато „не работим с военни" се окаже, че означава „не работим с военни директно"?

Едно нещо е сигурно: разликата между онова, което технологичните компании говорят за AI етиката, и онова, което се случва задкулисно, става все по-трудна за пренебрегване.

Какво следва от всичко това

Тази история не е наистина за това Microsoft или OpenAI да са лоши. Става дума за сложната реалност на създаването на мощна AI технология в свят, където мощни институции искат да я ползват.

Въпросът не е дали AI ще бъде използван за отбрана — защото очевидно вече се използва. Въпросът е дали ще водим честни разговори за това.

Какво е твоето мнение? Сподели в коментарите — искрено се интересувам какво мислиш по темата.

Източник: Wired - OpenAI Had Banned Military Use. The Pentagon Tested Its Models Through Microsoft Anyway