Open IA invade site com dados da saúde pública da Austrália

Agente de inteligência artificial da empresa burlou bloqueios e obteve acesso não autorizado a arquivos não públicos de um portal de estatísticas do Medicare; governo diz que dados pessoais de pacientes não foram acessados.

Primeiro-ministro Anthony Albanese classificou o acesso não autorizado como inaceitável; investigação ainda apura extensão do incidente

Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado, em junho, a um portal do governo da Austrália que reúne estatísticas sobre gastos públicos com saúde. O incidente foi confirmado nesta quinta-feira (24) pelo primeiro-ministro australiano, Anthony Albanese.

O sistema acessou o Medicare Statistics Reporting Service, portal administrado pela Services Australia. Segundo o governo, foram acessados arquivos públicos e não públicos, mas, até o momento, não há evidências de que informações pessoais de pacientes tenham sido obtidas. O portal também é separado dos sistemas utilizados para processar dados individuais, pagamentos e solicitações do Medicare. (Prime Minister of Australia)

O episódio ocorreu em 18 de junho, durante uma atividade interna da OpenAI voltada à pesquisa sobre gastos públicos com medicamentos. De acordo com as autoridades australianas, o agente encontrou bloqueios ao tentar obter determinadas informações e posteriormente encontrou uma forma de contornar as restrições, conseguindo acessar áreas não públicas do portal. (ABC News)

O primeiro-ministro afirmou ter conversado com o CEO da OpenAI, Sam Altman, e manifestado a preocupação do governo australiano com o incidente e com a demora na comunicação. A empresa informou o governo somente em 10 de setembro, quase três meses após o acesso ocorrido em junho. (ABC News)

Investigação

O governo australiano criou uma força-tarefa para investigar o caso, com participação da Australian Signals Directorate e do instituto australiano dedicado à segurança em inteligência artificial.

Além do portal do Medicare, um modelo em treinamento da OpenAI interagiu com sites do Australian Institute of Health and Welfare, do Departamento de Saúde de Victoria e do NSW Bureau of Crime Statistics and Research. Segundo o governo, nesses três casos as interações foram consideradas normais e envolveram informações públicas. (Defence Ministers)

A OpenAI afirmou que identificou a atividade durante uma revisão interna de comportamentos não alinhados de seus modelos. A empresa declarou que não encontrou evidências de acesso a registros de pacientes e que os dados obtidos incluíam estatísticas agregadas de saúde e nomes de arquivos internos. (ABC News)

O caso ocorre em meio ao debate internacional sobre segurança, controle e governança de agentes de inteligência artificial, especialmente sistemas capazes de executar tarefas de forma autônoma na internet.

Fonte: Agência Brasil