Společnost OpenAI, která stojí za chatbotem ChatGPT, investuje do start-upu zaměřeného na prevenci zneužití umělé inteligence (AI) při vývoji biologických zbraní. Investice je součástí širší snahy OpenAI investovat do začínajících firem, které se snaží omezit rizika spojená s AI, napsala agentura Reuters.
OpenAI investuje do start-upů bránících zneužití A
Start-up s názvem Red Queen Bio chce vyvíjet technologie, které zabrání lidem nebo skupinám zneužít AI k tvorbě nebezpečných patogenů či jiných biologických hrozeb. OpenAI je hlavním investorem v počátečním kole financování v hodnotě 15 milionů USD (311,5 milionu Kč). Cílem Red Queen Bio je podle spoluzakladatele firmy Hannu Rajaniemiho zajistit, aby se obranné schopnosti odvětví AI vyvíjely alespoň stejně rychle jako pokusy o její zneužití proti lidem.
Minulý měsíc OpenAI podpořila start-up Valthos, který vyvíjí software pro posílení biologické bezpečnosti. Podle strategického ředitele OpenAI Jasona Kwona je firma otevřená investicím i do dalších projektů, které se zaměřují na podobná rizika spojená se zneužitím AI. Výzkumníci a zastánci bezpečnosti tvrdí, že technologie AI by mohla brzy urychlit vývoj léků nebo návrh nových vakcín. Tytéž schopnosti by ale mohly usnadnit zločincům či jiným škodlivým subjektům vývoj nových a účinných biologických zbraní.
Red Queen Bio získává nové investory
Firma Red Queen Bio vznikla oddělením od společnosti Helix Nano, která se zabývá klinickým vývojem mRNA terapeutik a využíváním AI ve větší míře při vývoji léků. Helix Nano také spolupracovala s OpenAI na vytvoření testů pro stanovení biologických rizik AI, uvedl Kwon. Dalšími investory Red Queen Bio jsou soukromé investiční společnosti Cerberus Ventures, Fifty Years a Halcyon Futures.
Generální ředitel OpenAI Sam Altman a členka správní rady Nicole Seligmanová již dříve investovali do start-upu Helix Nano a při transakci získají podíly ve firmě Red Queen Bio. Podle OpenAI byl také Jason Kwon nepřímo investorem prostřednictvím Y Combinator, start-upového inkubátoru v Silicon Valley. Jeho podíl má hodnotu méně než 2500 USD. Mluvčí OpenAI uvedl, že zmínění manažeři se nepodíleli na schvalování investice do Red Queen Bio. Investici přezkoumal a schválil ředitel OpenAI, který má na starost dodržování předpisů, spolu se členy správní rady, kteří nebyli v konfliktu zájmů.
Zdroj: ČTK
