Ілля Суцкевер, співзасновник і колишній головний науковий співробітник OpenAI, заснував нову компанію зі штучного інтелекту, зосереджену на безпеці. Представленний стартап Safe Superintelligence Inc., який має «одну мету та один продукт», створення безпечної та потужної системи ШІ.
У оголошенні Суцкевер описав SSI як стартап, що «підходить до безпеки та можливостей у тандемі». Це дозволить компанії швидко вдосконалювати систему штучного інтелекту, водночас надаючи пріоритет безпеці. Він також зазначив, що SSI уникає зовнішнього тиску, з яким часто стикаються команди ШІ в таких компаніях, як OpenAI, Google і Microsoft.
«Єдиний фокус компанії дозволяє їй уникати відволікання на управління чи цикли продукту. Наша бізнес-модель означає, що безпека, захист і прогрес ізольовані від короткострокового комерційного тиску. Таким чином ми зможемо масштабуватися мирно»
– йдеться в повідомленні Суцкевера.
Співзасновниками SSI є Деніел Гросс, колишній керівник відділу ШІ в Apple, і Деніел Леві, який працював у технічному персоналі OpenAI.
Минулого року Суцкевер очолював поштовх до усунення генерального директора OpenAI Сема Альтмана та залишив OpenAI у травні. Незабаром після його відходу дослідник ШІ Ян Лейке також оголосив про відставку з OpenAI, посилаючись на ненадійні процеси безпеки. Гретхен Крюгер, дослідниця політики OpenAI, також згадала про проблеми безпеки, оголошуючи про свій відхід.
Зважаючи на співпрацю компанії OpenAI з Apple і Microsoft, ймовірно, SSI не зробить це найближчим часом. У інтерв’ю Bloomberg, Суцкевер сказав, що першим продуктом SSI буде безпечний суперінтелект, і до того часу компанія нічого більше не робитиме.
