David Robinson, responsável por escrever os relatórios de segurança que acompanhavam cada grande lançamento de modelo da OpenAI, deixou a empresa nesta semana. Depois da saída, ele publicou um artigo de opinião na revista The Atlantic em que afirma que a cultura da indústria de inteligência artificial está fundamentalmente quebrada, segundo o The Verge.
Para Robinson, o problema vai além de criar novas regras para o treinamento de modelos. Ele descreve um Vale do Silício movido por excesso de confiança e ciclos de trabalho sem pausa, que subestima riscos. Sua proposta é que os laboratórios de fronteira funcionem como usinas nucleares ou aeroportos movimentados, com redundância e planejamento cuidadoso para que erros humanos inevitáveis não abram caminho para desastres.
Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuárioA saída faz parte de uma sequência de pedidos de demissão de pesquisadores e profissionais de segurança em grandes empresas de IA. A reportagem cita Jacob Coxon, que deixou a Anthropic e declarou publicamente que a IA poderia acabar com a humanidade até o fim da década, além de Robert O'Callahan, Bilal Chughtai e Josh Engels, do Google DeepMind, e Joe Benton, também da Anthropic.
Por que isso importa para empresas
- A sequência de saídas em equipes de segurança é um alerta para empresas que dependem de modelos de terceiros: convém acompanhar os relatórios de segurança dos fornecedores e não terceirizar toda a avaliação de risco.
- Em usos críticos, vale aplicar internamente a lógica defendida por Robinson, com revisão humana, redundância e planos de contingência para falhas dos modelos.
Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por The Verge. Título original, imagem e matéria completa pertencem à fonte.
:quality(85)/91d1635b-15e4-4706-8c68-86032e250499.jpg)
