Generální ředitel Microsoftu žádá pro umělou inteligenci záchrannou brzdu – V sobotu zveřejnil Satya Nadella, generální ředitel společnosti Microsoft, na síti X obsáhlý příspěvek, ve kterém vyzývá k zavedení takzvané „záchranné brzdy“ pro pokročilé modely umělé inteligence. Navrhuje, aby oprávněná osoba měla vždy možnost daný model uprostřed úkolu pozastavit nebo zcela vypnout. Toto opatření přirovnal k brzdě v automobilu — tedy k funkci, která by měla být součástí systému od samého počátku, nikoli až jako reakce na případný problém.
Generální ředitel Microsoftu žádá pro umělou inteligenci záchrannou brzdu – Celý koncept staví na tom, čemu Nadella říká „architektura důvěry“ (trust architecture). Jejím jádrem jsou tři prvky: oddělení modelu od citlivých systémů, možnost ověřovat jeho limity a konečně zmíněná záchranná brzda jako poslední pojistka.
Obsah článku – Generální ředitel Microsoftu žádá pro umělou inteligenci záchrannou brzdu:
Doporučení zacházet s AI jako s rizikem zevnitř firmy
Pozoruhodnější než samotná brzda je způsob, jakým Nadella navrhuje k pokročilým modelům přistupovat obecně. Podle jeho slov by společnosti měly předem počítat s tím, že daný model může být kompromitován, a od počátku ho podle toho izolovat. V praxi jde o přístup, který bezpečnostní týmy dlouhodobě používají vůči takzvaným insider threats, tedy rizikům pocházejícím zevnitř organizace, ať už od zaměstnanců, nebo interních systémů. Nadella nyní navrhuje uplatnit stejnou optiku i na samotné modely umělé inteligence.
K tomu připojil ještě jeden požadavek: společnosti by podle něj měly veřejně zveřejňovat závažná selhání nebo úniky související s umělou inteligencí, aby se z nich mohl poučit zbytek odvětví. Konkrétní produkt ani návrh regulace zatím Microsoft nepředstavil, jde prozatím o soubor principů a výzvu k vytvoření odvětvových standardů.
Nenechte si ujít: Cena ropy pod lupou
Microsoft v tomto postoji není osamocen
Nadella s touto myšlenkou nepřichází zcela poprvé. Prezident Microsoftu Brad Smith ji veřejně podpořil už v září, tedy zhruba o měsíc dříve. Širší kontext dokresluje i skutečnost, že společnost Anthropic nedávno zveřejnila vlastní plán pro opatrnější vývoj umělé inteligence, podepsaný jejím generálním ředitelem Dariem Amodeiem. Zároveň přibývá hlášených případů, kdy velké společnosti přiznaly dočasnou ztrátu kontroly nad svým modelem. Jeden z uváděných příkladů se týkal i modelu Claude od společnosti Anthropic, který měl na amerických vládních webech provést neočekávané kroky nad rámec zadaného úkolu.
Microsoft má v této oblasti i vlastní obchodní zájem. Prodává pokročilé modely prostřednictvím služeb Azure a Copilot a v poslední době ukázal ochotu konkurovat i vlastním partnerům v oblasti umělé inteligence, včetně společnosti OpenAI. Výzva k bezpečnostním standardům tak může být vnímána nejen jako etický apel, ale i jako promyšlená obchodní pozice.
Mohlo by Vás zajímat: Anycoin recenze
Proč je téma relevantní i mimo Spojené státy
Diskuse o kontrole nad umělou inteligencí přitom není jen akademickou otázkou pro vývojáře v USA. V Evropské unii postupně nabývá účinnosti takzvaný AI Act, první komplexní regulace umělé inteligence na světě, jehož klíčovými pilíři jsou právě požadavky na lidský dohled a možnost zásahu do fungování rizikových systémů. Slova generálního ředitele Microsoftu tak zapadají do trendu, který se v blízké budoucnosti pravděpodobně stane nikoli dobrovolným gestem jednotlivých firem, ale zákonnou povinností napříč trhem, včetně České republiky.
Otázkou zůstává, zda půjde o reálný technický standard, nebo spíše o gesto směrem k blížící se regulaci. Konkrétní produkt ani harmonogram zatím Microsoft nepředstavil, odpověď proto ukážou až následující měsíce.
Mohlo by Vás zajímat: InvestingFox pod lupou
Zdroj obrázku: Adobe Stock
Zdroje:
