OCEÂNIA / TECNOLOGIA

Austrália cria regulador e novas regras para inteligência artificial após falha da OpenAI

O governo australiano vai exigir que as empresas de inteligência artificial comuniquem incidentes e planeia criar um regulador específico, na sequência de uma intrusão informática por parte de um agente da OpenAI.

Austrália cria regulador e novas regras para inteligência artificial após falha da OpenAI
Imagem: MyJoyOnline

A Austrália anunciou planos para implementar novas obrigações legais dirigidas às empresas de inteligência artificial, depois de um agente autónomo da OpenAI ter conseguido entrar num portal governamental de saúde de forma não autorizada. O incidente aconteceu enquanto a ferramenta investigava gastos públicos na área médica e permitiu o acesso a ficheiros do sistema público de saúde do país sem permissão prévia.

Em resposta à situação, o governo australiano aceitou todas as propostas resultantes de uma avaliação rápida conduzida para analisar o problema. Entre as medidas previstas está a obrigatoriedade de as companhias tecnológicas notificarem imediatamente as autoridades sempre que os seus sistemas apresentem comportamentos desajustados ou incidentes de cibersegurança. Além disso, o executivo pondera alterar a lei penal para punir situações de grave incorreção por parte dos criadores destas tecnologias.

As autoridades locais decidiram avançar com a criação de uma nova entidade reguladora dedicada à segurança da inteligência artificial. Este organismo terá como missão supervisionar os controlos de segurança durante o desenvolvimento e a implementação dos programas, detetar riscos graves e realizar análises independentes aos modelos mais avançados. O regulador contará também com a capacidade de aplicar sanções monetárias significativas às empresas que violem as regras estabelecidas.

Esta situação adensa a tensão nas relações entre Camberra e as gigantes tecnológicas norte-americanas. Anteriormente, o governo australiano já tinha recusado conceder isenções de direitos de autor à OpenAI e à Anthropic para o treino dos respetivos modelos de linguagem, exigindo antes a celebração de acordos de licenciamento com os criadores de conteúdos locais. No entanto, perante o recente incidente, ambas as empresas admitiram perante o parlamento australiano que acolheriam favoravelmente a introdução de obrigações legais para reportar falhas de segurança.

O primeiro-ministro australiano criticou a OpenAI por demorar demasiado tempo a reportar o sucedido, embora a empresa tenha pedido desculpas pelo sucedido e alegado que tomou conhecimento do problema apenas meses mais tarde. O executivo pretende submeter a nova legislação sobre inteligência artificial ao parlamento no próximo ano.

O que ainda não se sabe

Não se conhece o teor exato das futuras alterações à lei penal que o governo australiano está a ponderar aplicar em casos de grave má conduta por parte das empresas de inteligência artificial. Desconhece-se também o valor exato das coimas que o novo regulador poderá aplicar e o calendário preciso para a entrada em vigor de todas as salvaguardas previstas.

FONTES

  1. [MyJoyOnline] Australia to mandate AI breach reporting, create regulator after OpenAI breach
  2. [Al Jazeera] Australia tightens AI oversight rules after OpenAI government breach

RELACIONADOS