OpenAI concebe sistema Control Room pra interromper agentes de AI em 35 segundos

A OpenAI implementou em sua infraestrutura de pesquisa o Control Room como o seu mais novo sistema de segurança. Essa novidade possibilita interromper a geracao de respostas de agentes de AI em ate 35 segundos. Assim sendo, será possivel prevenir desvios de comportamento causados por falhas humanas ao longo dos testes de modelos avançados em laboratório.

Esse mecanismo foi elaborado prioritariamente pra agentes de AI. Dessa maneira, ao invés de desativar servidores ou interromper processos bruscamente, o sistema atribui um identificador único pra cada missao de pesquisa e valida se ela segue autorizada a cada nova solicitação de geracao.Caso o cancelamento tenha sido emitido por pesquisadores ou monitores, os pedidos subsequentes são rejeitados. Somado a isso, a ordem de bloqueio pode partir manualmente de um operador ou automaticamente através de outros modelos de AI treinados pra monitorar experimentos de aprendizagem por reforço e identificar comportamentos anômalos.Clique aqui pra ler mais