Uma coalizão formada por entidades de defesa dos direitos civis, pesquisadores acadêmicos e veículos de jornalismo investigativo ingressou com uma ação judicial em tribunal federal norte-americano exigindo a desclassificação das normas confidenciais de segurança em inteligência artificial adotadas pelo governo federal dos Estados Unidos. O processo baseia-se na Lei de Liberdade de Informação (FOIA) e questiona o sigilo imposto sobre os testes conduzidos pelo Instituto de Segurança de IA dos EUA (US AISI). O litígio judicial aberto contra o governo dos Estados Unidos visa quebrar o sigilo em torno dos parâmetros técnicos utilizados para avaliar a periculosidade e a confiabilidade de modelos de inteligência artificial de fronteira.
A controvérsia gira em torno dos chamados testes de equipe vermelha (red-teaming) e protocolos de avaliação de risco catastrófico aplicados aos modelos de fronteira mais poderosos do mercado antes de sua disponibilização pública. Os autores da ação sustentam que o governo e um seleto grupo de grandes corporações de tecnologia estão firmando acordos de cooperação opacos a portas fechadas, impedindo que cientistas independentes auditem a real eficácia dos parâmetros de mitigação. Pesquisadores argumentam que sem acesso transparente aos métodos de teste do Instituto de Segurança em IA é impossível auditar de forma independente se os algoritmos comerciais estão devidamente protegidos contra abusos de segurança.
Em sua defesa preliminar, órgãos do Departamento de Comércio sustentam que a confidencialidade das regras operacionais é indispensável para evitar que vulnerabilidades cibernéticas, fórmulas de armas biológicas e técnicas de invasão de infraestrutura crítica caiam em mãos de governos adversários ou agentes maliciosos internacionais. A ação questiona acordos confidenciais firmados entre agências federais e grandes corporações do Vale do Silício, levantando suspeitas de captura regulatória e favorecimento de grandes empresas em detrimento de concorrentes abertos.
Para o ecossistema de inteligência artificial e a sociedade civil, o resultado da disputa jurídica definirá se o escrutínio de tecnologias com impacto social transformador permanecerá restrito a círculos fechados do Estado ou se seguirá os princípios democráticos de escrutínio aberto que tradicionalmente norteiam agências como o FDA na indústria farmacêutica. O debate sobre a transparência na segurança da inteligência artificial ecoa discussões históricas na regulação de setores de alto risco como a energia nuclear, a aviação civil e a fabricação de medicamentos farmacêuticos.
O juiz encarregado do caso intimou o Departamento de Comércio a apresentar um índice detalhado dos documentos retidos e justificar individualmente as razões de segurança nacional invocadas para cada norma. Uma audiência pública para deliberar sobre a abertura parcial dos relatórios técnicos está prevista para as próximas semanas. A decisão do tribunal federal sobre a desclassificação dos documentos poderá redefinir os padrões de responsabilidade pública e governança democrática sobre as tecnologias mais poderosas do século XXI.
