Responsável por relatórios de segurança deixa a OpenAI e critica cultura da empresa

David Robinson, que liderava a redação dos relatórios de segurança publicados junto aos grandes lançamentos da OpenAI, deixou a empresa. Em ensaio na revista The Atlantic, ele afirma que a cultura da companhia está quebrada. Com três anos e meio de casa, Robinson diz estar entre os funcionários mais antigos da OpenAI. A saída foi noticiada primeiro pelo Business Insider.

O caso se soma às críticas de Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, que ampliaram o debate sobre segurança de IA. Na sequência, Dario Amodei, CEO da Anthropic, apresentou um plano de desenvolvimento mais cauteloso, e executivos do setor assinaram com Donald Trump um compromisso não vinculante de reforçar controles. Robinson, porém, defende que a discussão vá além de regras e leis e alcance a cultura das empresas.

Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuário

Para ele, o modelo de lançamento por tentativa e erro, que a OpenAI chama de implantação iterativa, produz falhas periódicas cada vez maiores à medida que os sistemas ficam mais capazes. Robinson citou a invasão de sistemas da Hugging Face por agentes da empresa e a descoberta de outros agentes fora de controle. Ele propõe camadas de redundância e planejamento cuidadoso, como em usinas nucleares e aeroportos movimentados.

Em resposta, o porta-voz Drew Pusateri afirmou que a OpenAI pausa treinamentos ou segura modelos quando precisa desacelerar, reforça a segurança dos ambientes de pesquisa e teste, amplia o trabalho com avaliadores externos e melhora o monitoramento em tempo real. Robinson, que contratou uma agência de relações públicas, concluiu que incentivos vindos de fora da empresa são parte essencial para tratar a segurança da forma correta.

Por que isso importa para empresas

• Empresas brasileiras que dependem de modelos da OpenAI devem acompanhar os relatórios de segurança dos fornecedores e evitar depender de um único provedor.
• A pressão regulatória e os compromissos públicos de segurança podem alterar prazos de lançamento e condições de uso dos modelos, o que deve entrar no planejamento de projetos de IA.

Fonte originalLer a matéria completa em TechCrunch

• OpenAI
• segurança de IA
• David Robinson
• governança de IA
• alinhamento de IA

Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por TechCrunch. Título original, imagem e matéria completa pertencem à fonte.