Ilja Sutskeveris, vienas iš OpenAI įkūrėjų, praėjus vos mėnesiui po to, kai paliko OpenAI, įkūrė naują įmonę „Safe Superintelligence Inc.“ (SSI).

Sutskeveris, kuris buvo ilgametis OpenAI vyriausiasis mokslininkas, įkūrė SSI su buvusiu YC partneriu Danieliu Grossu ir buvusiu OpenAI inžinieriumi Danieliu Levy.

„OpenAI“ įmonėje Sutskever buvo neatsiejama įmonės pastangų gerinti dirbtinio intelekto saugą dėl „superprotingų“ AI sistemų atsiradimo – šioje srityje jis dirbo kartu su Janu Leike. Tačiau tiek Sutskeveris, tiek Leike smarkiai paliko įmonę gegužę po to, kai nesutiko su OpenAI vadovybe dėl AI saugumo. Leike dabar vadovauja komandai Anthropic.

Sutskeveris jau seniai kreipia dėmesį į sudėtingesnius AI saugos aspektus. 2023 m. paskelbtame tinklaraščio įraše jis (rašydamas su Leike) numatė, kad dirbtinis intelektas, kurio intelektas pranoksta žmonių intelektą, gali pasirodyti per dešimtmetį, o kai taip atsitiks, tai nebūtinai bus geranoriška, todėl reikės ištirti būdus, kaip kontroliuoti ir apriboti. tai.

„SSI yra mūsų misija, mūsų vardas ir visas mūsų produktų planas, nes tai yra vienintelis mūsų dėmesys. Mūsų komanda, investuotojai ir verslo modelis yra suderinti, kad pasiektų SSI. Saugą ir galimybes vertiname kartu, kaip technines problemas, kurias reikia išspręsti pasitelkus revoliucinius inžinerinius ir mokslinius proveržius“, – rašoma tviteryje.

„Planuojame kuo greičiau tobulinti pajėgumus ir užtikrinti, kad mūsų saugumas visada išliktų į priekį. Tokiu būdu galime ramiai judėti. Mūsų išskirtinis dėmesys reiškia, kad valdymo išlaidos ar produktų ciklai neblaško dėmesio, o mūsų verslo modelis reiškia, kad sauga, saugumas ir pažanga yra izoliuoti nuo trumpalaikio komercinio spaudimo.

SSI turi biurus Palo Alto ir Tel Avive, kur šiuo metu įdarbina techninius talentus.