Бивш член на ръководството на OpenAI, създава нова компания за изкуствен интелект

Илия Съцкивър, бившият главен научен сътрудник в OpenAI, стартира нова компания за изкуствен интелект, наречена Safe Superintelligence Inc. (SSI), само месец след като официално напусна OpenAI. Съцкивър основава SSI заедно с бившия партньор от Y Combinator Даниел Грос и бившия служител на OpenAI Даниел Леви.

В OpenAI Съцкивър беше от ключово значение за усилията на компанията да подобри безопасността на изкуствения интелект. Той напусна компанията през май след драматичен разрив с ръководството относно подхода към безопасността на изкуствения интелект и контрола на разработките. Иля Съцкивър, както и много изследователи в областта, имат сериозни притеснения, че появата на „свръхинтелигентни“ системи за изкуствен интелект може да е опасна за човечеството.

Съцкивър отдавна насочва вниманието към предизвикателствата свързани с  безопасността на изкуствения интелект. В блог публикация от 2023 г. Съцкивър, заедно с Лайк, прави предположение, че изкуственият интелект със способности, надхвърлящи човешките, може да се появи в рамките на десетилетието – и че когато това стане, той няма задължително да бъде добронамерен към човечеството, което налага да разработим много сериозни методи за контролиране и ограничаване на ИИ.

В сряда следобед в X/Twitter Иля Съцкивър  обяви създаването на новата компания и заяви, че: “ Safe Superintelligence Inc. (SSI),  е нашата мисия, нашето име и цялата ни пътна карта за продукти, защото това е нашият единствен фокус. Нашият екип, инвеститорите и бизнес моделът са насочени към постигане на Безопасен Суперинтелект.  Планираме да повишаваме способностите на ИИ възможно най-бързо, като същевременно се уверим, че безопасността ни винаги остава пред всичко останало. По този начин можем да се развиваме спокойно и без да сме риск за човечеството. Единственият ни фокус ще бъде да не правим никакви компромиси, заради търговски интереси или производствени срокове, а нашият бизнес модел е така разработен, че безопасността, сигурността и напредъкът са изолирани от евентуален финансов натиск.“

Взимайки в предвид интересът на инвеститорите към изкуствения интелект и имената на професионалистите в екипа, компанията няма да има проблем с набирането на средства за разработка. Пред Bloomberg един от основателите Даниел Грос казва:
 „От всички проблеми, с които се сблъскваме, привличането на капитал няма да бъде един от тях“.