David Robinson, que trabalhava na área de segurança da OpenAI e deixou a empresa recentemente, criticou a forma como a criadora do ChatGPT trata a segurança da inteligência artificial. Em artigo publicado no sábado (3) na revista americana The Atlantic, ele afirmou que as empresas do setor, incluindo a OpenAI, estão longe de agir com o cuidado necessário.
Para Robinson, a cultura de desenvolvimento acelerado eleva o risco de falhas. Ele defende que as companhias deem mais espaço a especialistas em segurança e à pesquisa antes de avançar para sistemas mais poderosos. Segundo o ex-funcionário, a fase de tentativa e erro precisa ficar para trás, e a IA avançada deve seguir padrões de segurança comparáveis aos de setores como energia nuclear e aviação.
Leia tambémPesquisa usa sinais cerebrais para a IA perceber quando errou a intenção do usuárioPor que isso importa para empresas
- Empresas que integram modelos de grandes laboratórios devem incluir critérios de segurança e governança do fornecedor na avaliação de risco dos projetos de IA.
- Críticas internas como essa tendem a alimentar mudanças regulatórias e de políticas de uso, por isso convém manter contratos e arquitetura flexíveis para trocar de modelo se necessário.
Texto da Redação IA BRAZIL, escrito a partir da matéria publicada por g1. Título original, imagem e matéria completa pertencem à fonte.
:quality(85)/91d1635b-15e4-4706-8c68-86032e250499.jpg)
