Když "zákaz zbraní" znamená "zákaz přímého kontaktu"

Tohle je příběh, který mě donutil zamyslet se nad tím, jak vlastně technologické firmy myslí ty své "etické zásady".

OpenAI se vždycky prezentovala jako ta zodpovědná firma. Víte, s těmi pojistkami, s jasným pravidlem – žádné zbraně, žádné válčení, prostě ne.

A pak přijde Wired s tím, že americké ministerstvo obrany zkoušelo jejich technologie v praxi. Jak? Přes Microsoft.

Tady je pointa. Microsoft je hlavním partnerem OpenAI –基本上 jsou to ti, co jim obstarávají cloud a distribuci ChatGPT. Když tedy Pentagon chtěl otestovat, co tyhle modely dokážou, nešel za OpenAI. Šel za Microsoftem.

Představte si to takhle: OpenAI pověsila ceduli "Vstup zakázán vojenským vozidlům" na hlavní bránu. Jenže zadní vrátka přes Microsoft nechala dokořán.

A teď přijde to zajímavé. OpenAI mezitím svou politiku ohledně armádního využití změnila. Co býval jasný nesouhlas, to je teď spíš "záleží na tom, jak to použijete". Logistika, kybernetická bezpečnost, záchranné operace – prý v pohodě.

Tady se to ale začíná zamotávat. Je to透明的 transparentnost? Nebo je to jen známka toho, že AI je prostě příliš užitečná na to, aby se dala úplně zakázat? A nebo – a to je ta nepohodlná varianta – etika prostě ustoupila byznysu?

Pojďme být upřímní. Vojenské zakázky jsou obří. A když váš největší partner (Microsoft) už stejně jede na projektech jako Joint Warfighter Cloud Capability, tak ty přísné etické hranice najednou působí dost pružně.

Co si o tom myslíte vy? Je to prostě přirozené zrání AI firem, jak rostou? Nebo bychom měli být nervózní, když "my válčíme neděláme" ve skutečnosti znamená "my válčíme neděláme přímo"?

Jedno je jisté: propast mezi tím, co technologické firmy říkají o AI etice, a tím, co se děje za zavřenýma dveřma, už nemůžeme ignorovat.

Co z toho plyne

Tohle není příběh o tom, že by Microsoft nebo OpenAI byli padouši. Je to příběh o tom, jak to vypadá, když stavíte super silnou technologii ve světě, kde ji super silné instituce prostě chtějí používat.

Otázka není, jestli bude AI použita pro obranu – to se totiž už děje. Otázka je, jestli o tom budeme mít upřímnou diskuzi.

Jak to vidíte vy? Napište mi do komentářů – vážně mě zajímá váš názor.

Zdroj: Wired – OpenAI Had Banned Military Use. The Pentagon Tested Its Models Through Microsoft Anyway