OpenAI o cofundador e ex-cientista-chefe Ilya Sutskever anunciou que está lançando uma nova empresa de IA que se concentrará principalmente no desenvolvimento de uma “superinteligência segura”.
O ex-membro da OpenAI Daniel Levy e o ex-líder de IA da Apple Daniel Gross também são cofundadores da empresa, apelidada de Safe Superintelligence Inc., de acordo com o relatório de 19 de junho. anúncio.
Segundo a empresa, a superinteligência está “ao alcance” e garantir que seja “segura” para os humanos é o “desafio técnico mais importante da nossa época”.
A empresa acrescentou que pretende ser um “laboratório de superinteligência segura (SSI)” com a tecnologia como seu único produto e a segurança como seu objetivo principal. Acrescentou:
“Estamos montando uma equipe enxuta e formada pelos melhores engenheiros e pesquisadores do mundo, dedicada a focar na SSI e nada mais.”
A Safe Superinteligence Inc. disse que pretende aprimorar as capacidades o mais rápido possível, ao mesmo tempo em que busca a segurança. A abordagem focada da empresa significa que a gestão, as despesas gerais, as pressões comerciais de curto prazo e os ciclos de produtos não a desviarão do seu objectivo.
“Dessa forma, podemos escalar em paz.”
A empresa acrescentou que os investidores concordam com a abordagem de priorizar o desenvolvimento seguro sobre todo o resto.
Em um Entrevista com BloombergSutskever recusou-se a nomear financiadores ou a declarar o montante angariado até agora, enquanto Gross comentou amplamente e disse que “levantar capital não será” um problema para a empresa.
A Safe Superintelligence Inc. terá sede em Palo Alto, Califórnia, com escritórios em Tel Aviv, Israel.
O lançamento segue preocupações de segurança na OpenAI
O lançamento da Superinteligência Segura segue uma disputa na OpenAI. Sutskever fazia parte do grupo que tentou remover OpenAI CEO Sam Altman de sua função em novembro de 2023.
Relatórios antecipados, inclusive de O Atlantico, sugeriu que a segurança era uma preocupação da empresa na época da disputa. Enquanto isso, um memorando interno da empresa sugeria que a tentativa de demissão de Altman estava relacionada a uma falha de comunicação entre ele e o conselho de administração da empresa.
Sutskever deixou a atenção do público durante meses após o incidente e oficialmente deixou IA aberta algumas semanas atrás, em maio. Ele não citou nenhum motivo para sua saída, mas os desenvolvimentos recentes na empresa de IA trouxeram a questão da segurança da IA para o primeiro plano.
Os funcionários da OpenAI, Jan Leike e Gretchen Krueger, deixaram recentemente a empresa, citando preocupações com a segurança da IA. Enquanto isso, relatórios da Vox sugerir que pelo menos cinco outros “funcionários preocupados com a segurança” saíram desde novembro.
Em entrevista à Bloomberg, Sutskever disse isso ele mantém um bom relacionamento com Altman e disse que a OpenAI está ciente da nova empresa “em termos gerais”.
