O Alto-Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou para os riscos que o rápido desenvolvimento da Inteligência Artificial pode representar para os direitos fundamentais, incluindo o direito à vida, privacidade, saúde e segurança.
Num comunicado citado pela Lusa, Türk afirmou que a actual corrida para desenvolver sistemas de Inteligência Artificial cada vez mais potentes representa um aumento dos riscos para diferentes dimensões da vida humana e defendeu uma resposta urgente por parte dos Estados e das empresas tecnológicas.
Uma das principais preocupações apresentadas pelo responsável está relacionada com a chamada Inteligência Artificial agêntica, uma categoria de sistemas concebidos para ultrapassar a simples execução de instruções e capazes de tomar decisões e executar planos autonomamente para atingir determinados objectivos.
Segundo Türk, falhas nesses sistemas poderão ter consequências que ultrapassam o utilizador individual e atingir estruturas essenciais das sociedades. Entre os riscos apontados estão a paralisação de serviços essenciais, interrupções nas comunicações, perturbações de infra-estruturas críticas e impactos sobre instituições democráticas.
O responsável das Nações Unidas alertou, por exemplo, para a possibilidade de populações inteiras ficarem sem acesso a serviços fundamentais, como água, aquecimento ou serviços financeiros, caso sistemas altamente autónomos provoquem falhas ou perturbações em infra-estruturas essenciais.
A preocupação estende-se também ao domínio militar. Türk considera que a Inteligência Artificial já está a alterar a dinâmica dos conflitos, ao acelerar o ritmo das guerras, ampliar o seu alcance e reduzir algumas das salvaguardas que procuram impedir a escalada para situações de maior destruição.
O alerta da ONU surge num contexto de crescente debate internacional sobre os limites e a governação da Inteligência Artificial. Investigadores e dirigentes de empresas tecnológicas têm apresentado diferentes avaliações sobre os riscos associados ao desenvolvimento de sistemas cada vez mais autónomos, desde impactos sociais e económicos até cenários de risco existencial.
Para as Nações Unidas, contudo, a questão ultrapassa a discussão tecnológica. A organização defende que o desenvolvimento e utilização da IA devem estar sujeitos a mecanismos de governação capazes de proteger os direitos humanos e garantir responsabilidade sobre as decisões tomadas ou influenciadas por estes sistemas.
Volker Türk defende, por isso, uma mobilização internacional através de fóruns multilaterais, envolvendo governos e empresas, para estabelecer regras baseadas no direito internacional e na protecção dos direitos humanos.
A posição da ONU é que nenhum Estado ou empresa, isoladamente, deve determinar os riscos que a sociedade global está disposta a aceitar em nome do progresso tecnológico. O desafio passa agora por encontrar um equilíbrio entre inovação, segurança, responsabilidade e protecção dos direitos fundamentais.
