21/2024, de 05.07.2024
Número do Parecer
21/2024, de 05.07.2024
Data de Assinatura
05-07-2024
Tipo de Parecer
Informação-Parecer
Iniciativa
Governo
Entidade
Ministério dos Negócios Estrangeiros
Relator
Ricardo Lopes Dinis Pedro
Descritores
INTELIGÊNCIA ARTIFICIAL
SISTEMAS DE INTELIGÊNCIA ARTIFICIAL
CONVENÇÃO
CONSELHO DA EUROPA DEMOCRACIA
DIREITOS HUMANOS
ESTADO DE DIREITO
DIREITOS ECONÓMICOS SOCIAIS E CULTURAIS
VIGILÂNCIA
CENSURA
LITERACIA DIGITAL
ACESSO A INFORMAÇÃO
DIREITOS DAS MULHERES
DIREITO À PRIVACIDADE
TRABALHO
DIREITOS DA CRIANÇA
PRINCÍPIO DA INDEPENDÊNCIA JUDICIAL
PRINCÍPIO DA NÃO DISCRIMINAÇÃO
PRINCÍPIO DA TRANSPARÊNCIA
ATIVIDADE ADMINISTRATIVA
ATIVIDADE JUDICIAL
INOVAÇÃO SEGURA
SUPERVISÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL
MEIOS PROCESSUAIS DE DEFESA
CONSULTA PÚBLICA
CARTA PORTUGUESA DE DIREITOS HUMANOS NA ERA DIGITAL
SISTEMAS DE INTELIGÊNCIA ARTIFICIAL
CONVENÇÃO
CONSELHO DA EUROPA DEMOCRACIA
DIREITOS HUMANOS
ESTADO DE DIREITO
DIREITOS ECONÓMICOS SOCIAIS E CULTURAIS
VIGILÂNCIA
CENSURA
LITERACIA DIGITAL
ACESSO A INFORMAÇÃO
DIREITOS DAS MULHERES
DIREITO À PRIVACIDADE
TRABALHO
DIREITOS DA CRIANÇA
PRINCÍPIO DA INDEPENDÊNCIA JUDICIAL
PRINCÍPIO DA NÃO DISCRIMINAÇÃO
PRINCÍPIO DA TRANSPARÊNCIA
ATIVIDADE ADMINISTRATIVA
ATIVIDADE JUDICIAL
INOVAÇÃO SEGURA
SUPERVISÃO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL
MEIOS PROCESSUAIS DE DEFESA
CONSULTA PÚBLICA
CARTA PORTUGUESA DE DIREITOS HUMANOS NA ERA DIGITAL
Conclusões
IV
Conclusões
Em face do exposto, apresentam-se as seguintes conclusões:
1.ª – A adoção de sistemas de inteligência artificial quer pelo setor privado, quer pelo setor público levou, desde logo, no contexto europeu, à consideração da regulação jurídica desta tecnologia, assumindo particular relevância a adoção pelo Conselho da Europa de uma Convenção-Quadro para a regulação jurídica do impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
2.ª – A assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito revela-se em linha e em complemento com a opção de regulação jurídica pela União Europeia, em particular, com a adoção do Regulamento Inteligência Artificial;
3.ª – Os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito não contendem com qualquer princípio ou norma da Constituição da República Portuguesa, não suscitando, assim, obstáculos de natureza jurídico-constitucional;
4.ª – A assinatura da referida Convenção impõe, para o cumprimento das obrigações daí resultantes e sem prejuízo do princípio da subsidiariedade, a adoção de um conjunto de medidas legislativas, administrativas ou outras, e ainda a previsão dos necessários recursos humanos e orçamentais, assim como a formação e medidas de informação sobre o impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
5.ª – A legislação ordinária referente ao uso de inteligência artificial, maxime o disposto no artigo 9.º, n.ºs 1 e 2, da Carta Portuguesa de Direitos Humanos na Era Digital, desde logo, em razão do seu carácter genérico e proclamatório, não contende com os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito, antes, encontrando, neste instrumento de direito convencional, uma fonte jurídica interpretativa e integradora.
Lisboa, aos 5 de julho de 2024,
O vogal do Conselho Consultivo,
(Ricardo Lopes Dinis Pedro)
Conclusões
Em face do exposto, apresentam-se as seguintes conclusões:
1.ª – A adoção de sistemas de inteligência artificial quer pelo setor privado, quer pelo setor público levou, desde logo, no contexto europeu, à consideração da regulação jurídica desta tecnologia, assumindo particular relevância a adoção pelo Conselho da Europa de uma Convenção-Quadro para a regulação jurídica do impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
2.ª – A assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito revela-se em linha e em complemento com a opção de regulação jurídica pela União Europeia, em particular, com a adoção do Regulamento Inteligência Artificial;
3.ª – Os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito não contendem com qualquer princípio ou norma da Constituição da República Portuguesa, não suscitando, assim, obstáculos de natureza jurídico-constitucional;
4.ª – A assinatura da referida Convenção impõe, para o cumprimento das obrigações daí resultantes e sem prejuízo do princípio da subsidiariedade, a adoção de um conjunto de medidas legislativas, administrativas ou outras, e ainda a previsão dos necessários recursos humanos e orçamentais, assim como a formação e medidas de informação sobre o impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
5.ª – A legislação ordinária referente ao uso de inteligência artificial, maxime o disposto no artigo 9.º, n.ºs 1 e 2, da Carta Portuguesa de Direitos Humanos na Era Digital, desde logo, em razão do seu carácter genérico e proclamatório, não contende com os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito, antes, encontrando, neste instrumento de direito convencional, uma fonte jurídica interpretativa e integradora.
Lisboa, aos 5 de julho de 2024,
O vogal do Conselho Consultivo,
(Ricardo Lopes Dinis Pedro)
Texto Integral
N.º 21/2024
RP
Senhor Ministro de Estado e dos Negócios Estrangeiros
Excelência:
Dignou-se Vossa Excelência solicitar[1] parecer/informação ao Conselho Consultivo da Procuradoria-Geral da República, nos termos da alínea b) do artigo 44.º[2] do Estatuto do Ministério Público[3]-[4], quanto à oportunidade da assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito.
O pedido vem acompanhado de versão na língua inglesa do «Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law»[5] e de Carta do Conselho da Europa sobre a abertura para a assinatura da referida Convenção, assinada pelo Director Jurídico para o Direito Público e Internacional, também em língua inglesa.
Cumpre emitir a informação/parecer.
I
Considerações preliminares
1. A relevância da Inteligência Artificial[6] (IA)[7]-[8] no contexto social, económico e outros e, em particular, o seu impacto negativo em certas dimensões de elevada importância societal levou a que, nomeadamente, no contexto europeu[9] - da grande Europa (Conselho da Europa)[10] e da pequena europa (União Europeia)[11] – se ponderasse a sua regulação jurídica, ética e técnica. Descontada a dimensão técnica, que tenderá a seguir um rumo comum de normalização[12] e a ética, que muito fica a dever à sua efetividade[13], pouco resta, na cultura que nos anima, do que voltar a atenção para a regulação jurídica.
Como já se deixa adivinhar do brevemente referido, será em função do impacto da IA nas diferentes esferas societais que se justificará a sua regulação jurídica, assumindo particular relevância certos «adquiridos comuns», como o Estado de Direito, a democracia e os direitos humanos, surgindo, assim, a Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito enquanto documento inaugural nesta matéria, que define princípios e regras gerais comuns que governem as atividades dentro do ciclo de vida dos sistemas de IA, preservando efetivamente os valores compartilhados e aproveitando os benefícios da IA para a promoção desses valores de maneira que conduza à inovação responsável.
A Convenção assume, por um lado, que a IA tem potencial para «promover a prosperidade humana, bem como o bem-estar individual e societal, o desenvolvimento sustentável, a igualdade de género e o “empoderamento” de todas as mulheres, assim como outros objetivos e interesses importantes, ao melhorar o progresso e a inovação» e, por outro, que a IA revela riscos, ao longo de todo o seu ciclo de vida, que podem minar a «dignidade humana e a autonomia individual, os direitos humanos, a democracia e o Estado de direito», nomeadamente, revelando potencial para «criar ou agravar desigualdades, incluindo as experienciadas por mulheres e indivíduos em situações vulneráveis, em relação ao gozo de seus direitos humanos e sua plena, igual e efetiva participação em assuntos económicos, sociais, culturais e políticos», com destaque para o uso indevido de sistemas de IA «para fins repressivos em violação do direito internacional dos direitos humanos, incluindo através de vigilância arbitrária ou ilegal e práticas de censura que erodem a privacidade e a autonomia individual».
2. Para além da Convenção, são de ter em conta outras iniciativas de regulação jurídica da IA com forte impacto na Europa e em Portugal, pensa-se, em particular, no Regulamento Inteligência Artificial (de ora em diante “RIA”)[14]-[15]. Conforme resulta do artigo 1.º do RIA, «1. A finalidade do presente regulamento é melhorar o funcionamento do mercado interno e promover a adoção de uma inteligência artificial centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais, incluindo a democracia, o Estado de direito e a proteção do ambiente, contra os efeitos nocivos dos sistemas de inteligência artificial ("sistemas de IA") na União, bem como apoiar a inovação. 2. O presente regulamento estabelece: a) Regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização de sistemas de IA na União; b) Proibições de certas práticas de IA; c) Requisitos específicos para sistemas de IA de risco elevado e obrigações para os operadores desses sistemas; d) Regras de transparência harmonizadas para determinados sistemas de IA; e) Regras harmonizadas para a colocação no mercado de modelos de IA de finalidade geral; f) Regras relativas à fiscalização do mercado, à vigilância do mercado, à governação e à aplicação da lei; g) Medidas de apoio à inovação, com especial ênfase nas PME, incluindo as empresas em fase de arranque».
Apesar de alguma coincidência no que tange ao âmbito objetivo da Convenção e do RIA, deve destacar-se que, no que se refere ao âmbito subjetivo, o primeiro diploma se situa perante no âmbito da grande Europa, enquanto no segundo se está perante a pequena Europa. Acresce que, como sublinha JACQUES ZILLER, o instrumento usado pelo Conselho da Europa é uma convenção-quadro, ou seja, um tratado internacional conhecido como Convenção-Quadro sobre Inteligência Artificial, Direitos Humanos, Democracia e Estado de Direito, enquanto a União Europeia usa um regulamento conhecido como Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de inteligência artificial (RIA) e que altera certos atos legislativos da União[16]. Releva ainda considerar que, nomeadamente, a redação do artigo 1.º do RIA deixa clara a marca deste ato legislativo na previsão de regras para o funcionamento do mercado comum[17]; o que, aliás, não deixa de ter reflexos nos considerandos e nas disposições do RIA que afetam diretamente as autoridades públicas, na medida em que se revelam extraordinariamente complexos[18]. Por fim, não é despiciendo deixar referido que o cumprimento dos valores Estado de Direito, democracia e os direitos humanos no uso de sistemas de IA envolverá em grande medida atividades públicas.
Em síntese, para além do alinhamento[19] entre a Convenção e o RIA, estes instrumentos normativos apresentam-se numa ótica de complementaridade, representando duas peças de um puzzle normativo que caberá à praxis demonstrar a sua suficiência ou não.
II
A Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito
1. A Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito (de ora em diante “Convenção”) apresenta-se estruturada em oito capítulos, assumindo, em língua inglesa, o seguinte “wording”:
Preamble
Chapter I – General provisions
Chapter II – General obligations
Chapter III – Principles related to activities within the lifecycle of artificial intelligence systems
Chapter IV – Remedies
Chapter V – Assessment and mitigation of risks and adverse impacts
Chapter VI – Implementation of the Convention
Chapter VII – Follow-up mechanism and co-operation
Chapter VIII – Final clauses
2. O preâmbulo da Convenção parte da ideia de que a principal missão do Conselho da Europa é proteger, principalmente por meio de instrumentos jurídicos vinculativos, os direitos humanos e o Estado de Direito em uma sociedade democrática, conforme estabelecido no Estatuto do Conselho da Europa e na Convenção Europeia dos Direitos Humanos[20], sublinhando que a Convenção tem por objetivo abordar os desafios específicos que se colocam ao longo do ciclo de vida dos sistemas de IA e incentivar a consideração dos riscos e impactos mais vastos relacionados com estas tecnologias, incluindo, mas não exclusivamente, na saúde humana e no ambiente, e nos aspetos socioeconómicos, como o emprego e o trabalho.
3. O Capítulo I, relativo a disposições gerais, integra o artigo 1.º, que se dedica ao objeto e finalidade da Convenção, prevê a necessidade da conformação de todos os sistemas de IA ao longo do seu ciclo de vida com os direitos humanos, democracia e Estado de Direito, por via da implementação, pelos Estados-Partes, de medidas adequadas (legislativas, administrativas ou outras).
Este capítulo, no artigo 2.º, prevê um dos temas mais relevantes da regulação da IA, que é o da sua definição. Trata-se de um tema problemático em razão da emergência de inovação da IA, como recentemente revelou o aparecimento da IA generativa[21].
A terminar este capítulo, o artigo terceiro dedica-se ao âmbito de aplicação da Convenção, determinando a sua aplicação às autoridades públicas e a entes privados, podendo as Partes não aplicar a presente Convenção às atividades do ciclo de vida dos sistemas de IA relacionadas com a proteção dos seus interesses de segurança nacional. Adianta ainda que não integram o seu âmbito objetivo as atividades de investigação e desenvolvimento relativas a sistemas de IA ainda não disponíveis para utilização (a menos que os ensaios ou atividades semelhantes sejam realizados de forma a poderem interferir com os direitos humanos, a democracia e o Estado de Direito) e questões relativas à defesa nacional.
4. O Capítulo II é dedicado às obrigações gerais, prevendo-se, no artigo 4.º, a necessidade de proteção dos direitos humanos em coerência com as obrigações de proteção dos direitos humanos, tal como consagradas no direito internacional aplicável e no direito interno.
Já o artigo 5.º é dedicado à integridade dos processos democráticos e respeito pelo Estado de Direito, impondo a adoção ou manutenção de medidas destinadas a garantir que os sistemas de IA não sejam utilizados para comprometer a integridade, a independência e a eficácia das instituições e dos processos democráticos (v.g. o acesso equitativo dos indivíduos e a sua participação no debate público, bem como a sua capacidade de formar livremente opiniões), incluindo o princípio da separação de poderes, o respeito pela independência judicial e o acesso à justiça.
5. O Capítulo III estabelece vários princípios relativos às atividades do ciclo de vida dos sistemas de IA, impondo a adoção de medidas adequadas ao seu direito interno e à Convenção (artigo 6.º), para a proteção da dignidade humana e autonomia individual (artigo 7.º), para a garantia da transparência e supervisão dos sistemas de IA adequadas ao seu nível de risco (artigo 8.º), para a garantia da responsabilização e a prestação de contas pelos impactos negativos nos direitos humanos, na democracia e no Estado de Direito resultantes de atividades no âmbito do ciclo de vida dos sistemas de IA (artigo 9.º), para a garantia da igualdade e não discriminação (artigo 10.º), para a garantia da privacidade e proteção dos dados pessoais (artigo 11.º), para a garantia da fiabilidade dos sistemas de lA e a confiança nos seus resultados (artigo 12.º) e para a promoção de inovação segura, nomeadamente, por meio da criação de ambientes controlados para o desenvolvimento, a experimentação e o ensaio de sistemas de IA sob a supervisão das autoridades competentes (artigo 13.º).
6. O Capítulo IV é dedicado aos meios jurídicos de reação (“Remedies”), devendo as Partes, em conformidade com as obrigações internacionais e o direito interno, adotar ou manter medidas para assegurar a disponibilidade de “remédios” acessíveis e eficazes em razão de violações dos direitos humanos resultantes das atividades exercidas por sistemas de IA, seja ao nível da transparência[22], seja ao nível da sua “impugnação” efetiva (artigo 14.º).
Está ainda previsto que os visados sejam notificados sempre que estejam a interagir com um sistema de IA, devendo estar previstos também meios processuais para a sua defesa em caso de lesão de direitos humanos (artigo 15.º).
7. O Capítulo V, composto pelo artigo 16.º, é, por referência aos princípios estabelecidos no Capítulo III, relativo à avaliação e mitigação de riscos e impactos adversos, prevendo-se a necessidade de avaliações de impacto dos sistemas de IA em matéria de direitos humanos, democracia e Estado de Direito, de forma a prevenir, identificar, avaliar, mitigar e relatar riscos e impactos adversos numa lógica de proporcionalidade e adequação.
8. O Capítulo VI é dedicado à aplicação da Convenção, devendo a sua efetivação ser assegurada sem discriminação, seja qual for o motivo, em conformidade com as obrigações internacionais em matéria de direitos humanos (artigo 17.º). É dedicada atenção aos direitos das pessoas com deficiência e das crianças (artigo 18.º) e impõe-se que as Partes diligenciem no sentido de os sistemas de IA mais relevantes, desde logo, em razão das suas implicações sociais, económicas, jurídicas, éticas, ambientais e outras, serem sujeitos a consulta pública (artigo 19.º).
A compreensão dos sistemas de IA impõe também diligências no sentido de aumentar a literacia e competências digitais de todos os segmentos da população, e ainda competências específicas para os responsáveis pela identificação, avaliação, prevenção e atenuação dos riscos colocados pelos sistemas de IA (artigo 20.º).
O artigo 21.º apresenta uma cláusula relativa à salvaguarda dos direitos humanos em vigor. Por fim, o artigo 22.º prevê um princípio de proteção mínima, estabelecendo a possibilidade de as Partes concederem medidas de proteção mais amplas do que as previstas na Convenção.
9. O Capítulo VII é dedicado ao mecanismo de acompanhamento e cooperação, estabelecendo regras sobre a Conferência das Partes (artigo 23.º), estabelece ainda a obrigação de apresentação de relatórios (artigo 24.º), com destaque para um relatório a apresentar à Conferência das Partes nos primeiros dois anos após a sua adesão e, depois disso, periodicamente com pormenores sobre as atividades desenvolvidas para dar cumprimento ao disposto nas alíneas a) e b), do n.º 1, do artigo 3.º, da Convenção.
São dedicadas normas à cooperação internacional (artigo 25.º) e à criação de mecanismos de controlo eficazes do cumprimento das obrigações decorrentes da presente Convenção (artigo 26.º).
10. Por fim, o Capítulo VIII estabelece cláusulas finais relativas: aos efeitos da Convenção (artigo 27.º), às alterações à Convenção (artigo 28.º), à resolução de litígios (artigo 29.º), à assinatura e entrada em vigor (artigo 30.º), à adesão de qualquer Estado não membro do Conselho da Europa que não tenha participado na sua elaboração (artigo 31.º), à aplicação territorial (artigo 32.º), a cláusulas federais (artigo 33.º), a reservas (artigo 34.º), à denúncia (artigo 35.º) e a notificações do Secretário-Geral do Conselho da Europa (artigo 36.º).
III
A oportunidade de assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito
1. A resposta à consulta deve ter presente o entendimento deste Conselho Consultivo no que tange às suas funções consultivas. Referiu-se no Parecer n.º 45/2012, de 4 de janeiro de 2013[23], que: «(…) [O] exercício da função consultiva envolve mecanismos de responsabilizações múltiplas, do próprio órgão consultivo através das suas estruturas argumentativas e corolários extraídos das mesmas, e do consulente ao estabelecer o objeto daquela pronúncia exclusivamente técnica em que, para empregar as palavras de Luhmann, se estabelece um território em que “a extensão e a coordenação das diversas responsabilidades não podem ser realizadas isoladamente sem considerar o contexto estrutural e programático da atividade decisória”».
Esclareceu-se na Informação/Parecer n.º 16/2016, de 7 de setembro de 2016[24], que: «Existe, assim, uma clara componente funcional no que concerne a pareceres do Conselho Consultivo que incidam «sobre disposições de ordem genérica», sem interferir com dimensões que estão para além das condições de ação, no plano jurídico-legal, isto é, este órgão consultivo apenas se deve pronunciar sobre matéria de legalidade, sem ponderações de raiz política que analiticamente sejam autonomizáveis daquelas condições».
No que tange à apreciação da juridicidade[25] de convenções internacionais, deve, em linha com a Informação-Parecer n.º 114/2000, de 4 de julho de 2000[26], assumir-se que: «Dentro da análise estritamente jurídica para que está vocacionado, a investigação orienta-se pelo critério da compatibilidade ou da incompatibilidade dos textos com as normas e princípios da ordem jurídica portuguesa, designadamente os princípios fundamentais consagrados na Constituição, quer no que respeita a esses instrumentos no seu todo, quer no concernente a algumas das suas disposições em concreto».
Destarte, é à luz do referido entendimento que será apreciada a oportunidade de assinatura da Convenção em apreço[27], desde logo, no que tange aos temas relativos a direitos humanos, democracia e Estado de Direito. A oportunidade de assinatura da Convenção está, assim, condicionada à sua conformidade constitucional, em particular, por imposição do disposto no artigo 8.º, n.º 2, da Constituição da República Portuguesa (de ora em diante “Constituição”), que prevê o carácter infraconstitucional (subordinação hierárquica à Constituição[28]) de tais instrumentos convencionais e, por outro lado, como tem sido reafirmado por este Conselho Consultivo[29], tais instrumentos convencionais têm primado sobre o direito interno infraconstitucional[30] – portanto, supralegal.
Em síntese, importa apurar da conformidade (i) da Convenção com a Constituição e (ii) da legislação ordinária com a Convenção. É o que se fará de imediato.
2. A Convenção incide sobre a proteção de vários valores fundamentais da nossa sociedade, que também se encontram abrangidos de forma expressa pela nossa Constituição, como acontece com o conceito aglutinador[31] Estado de direito democrático, previsto no artigo 2.º da Constituição, que determina que «A República Portuguesa é um Estado de direito democrático, baseado na soberania popular, no pluralismo de expressão e organização política democráticas, no respeito e na garantia de efetivação dos direitos e liberdades fundamentais e na separação e interdependência de poderes, visando a realização da democracia económica, social e cultural e o aprofundamento da democracia participativa» e com os direitos fundamentais, desde logo, por referência a alguns dos enunciados no direito internacional dos direitos humanos[32], por apelo à cláusula aberta prevista no artigo 16.º da Constituição[33].
A relevância de tais valores no contexto de uso de IA é também fonte de precupação da União Europeia, como revela, em particular, a sua participação nas negociações da Convenção. Pois, conforme resulta do Relatório Explicativo da Convenção: «The European Union also participated in the negotiations represented by the European Commission, including in its delegation also representatives from the European Union Agency for Fundamental Rights (FRA) and the European Data Protection Supervisor (EDPS)». A importância (e oportunidade de assinatura) da Convenção encontra expressão no artigo 27.º, n.º 2, da Convenção, que determina:«Parties which are members of the European Union shall, in their mutual relations, apply European Union rules governing the matters within the scope of this Convention without prejudice to the object and purpose of this Convention and without prejudice to its full application with other Parties. The same applies to other Parties to the extent that they are bound by such rules», podendo recolher-se do Relatório Explicativo da Convenção, por referência ao disposto no artigo 27.º, n.º 2, da Convenção, que: «Paragraph 2 of this article also acknowledges the increased integration of the European Union, particularly as regards regulation of artificial intelligence systems. This paragraph, therefore, permits European Union member States to apply European Union law that governs matters dealt with in this Framework Convention between themselves. The Drafters intended European Union law to include measures, principles and procedures provided for in the European Union legal order, in particular laws, regulations or administrative provisions as well as other requirements, including court decisions».
3. Como sustenta COTINO HUESO «A Convenção não só tem um valor simbólico e metajurídico, mas é também um instrumento normativo, com capacidade de integração quase constitucional nos sistemas jurídicos dos Estados Partes e tem um grande potencial interpretativo»[34]. Ou seja, a Convenção surge como um documento jurídico inaugural que define princípios e regras que visam o cumprimento e o reforço dos valores de pendor constitucional referentes a direitos humanos, democracia e Estado de Direito no contexto da aplicação de IA ao longo do seu ciclo de vida em várias atividades, desde logo, detalha alguns dos direitos previstos na Convenção Europeia dos Direitos Humanos[35], situando-os no contexto do uso de sistemas de IA ao longo do seu ciclo de vida. Daí a sua capacidade de interpretação e integração, em particular, pela imposição de desenvolvimento de medidas pelas Partes.
Importa destacar o disposto no artigo 4.º da Convenção que prevê: «Each Party shall adopt or maintain measures to ensure that the activities within the lifecycle of artificial intelligence systems are consistent with obligations to protect human rights, as enshrined in applicable international law and in its domestic law» e, em clarificação, o Relatório Explicativo da Convenção refere que: «At the same time, Parties are free to choose the ways and means of implementing their international legal obligations, provided that the result is in conformity with those obligations. This is an obligation of result and not an obligation of means. In this respect, the principle of subsidiarity is essential[36], putting upon the Parties the primary responsibility to ensure respect for human rights and to provide redress for violations of human rights». Daqui há de resultar a adoção de regulamentos e legislação necessários (que, para os Estados-Membros da União, é parcialmente abrangida pelo RIA, que é um instrumento diretamente aplicável), mas também os necessários recursos humanos e orçamentais, formação e medidas de informação[37]. Mais, uma vez que o RIA apresenta uma fraca incidência sobre os entes públicos, poderá revelar-se necessária uma nova “camada” de normatividade, nomeadamente, em matéria de atividade administrativa[38] e judicial[39].
4. Partindo do estalão constitucional, enquanto parâmetro de controlo, desde logo, no que se refere ao Estado de Direito Democrático, importa ter em conta que se trata de um conceito que envolve vários segmentos normativos constitucionais (materiais e formais[40]), que se expressa na ideia de sujeição do poder aos princípios e regras jurídicos, de modo a garantir a igualdade e segurança aos cidadãos[41] e que se encontra representado numa constelação de normas e princípios (ou subprincípios como o da legalidade da administração, da segurança jurídica e da proporcionalidade) previstos em vários artigos da Constituição. Sem preocupação de exaustão, no que tange à dimensão Estado de Direito, para além do artigo 2.º, tenha-se em conta o disposto no artigo 3.º (princípio da constitucionalidade); no artigo 9.º, alínea d) (direitos económicos, sociais e culturais); no artigo 18.º (regime de proteção dos direitos, liberdades e garantias); no artigo 20.º (acesso à justiça e tutela jurisdicional efectiva); no artigo 111.º (separação e interdependência de poderes/funções); no artigo 216.º (independência dos juízes)[42] e, na vertente Estado democrático, entre outros, o disposto no artigo 1.º (por referência à vontade popular); no artigo 10.º (sufrágio universal); no artigo 108.º (titularidade do poder), enquanto (algumas) expressões do complexo e aberto princípio democrático, que impõe o desenvolvimento de dimensões materiais e organizativo-procedimentais[43].
O cotejo da referida normatividade constitucional, nuclear de valores próprios da ideia de Estado de Direito Democrático e sob os pressupostos da juridicidade, constitucionalidade e direitos fundamentais[44], com a finalidade, as obrigações e princípios da Convenção, relembre-se muito mais restritos, uma vez que se limitam a situações em que está em causa inteligência artificial (em síntese, visam garantir que as atividades no âmbito do ciclo de vida dos sistemas de inteligência artificial sejam plenamente coerentes com os direitos humanos, a democracia e o Estado de Direito), não revela razões de antagonismo normativo entre a Constituição e a Convenção. Responde-se, assim, afirmativamente à questão da conformidade da Convenção com a Constituição.
Acresce que, em razão da inexistência de normatividade de valor constitucional relativa à regulação da IA, antes princípios e normas fundamentais de vocação geral, que também se lhe aplicarão, e que a Convenção se dedica a detalhar normas de garantia de valores fundamentais como o Estado de Direito, a democracia e direitos humanos no contexto do ciclo de vida de uso da IA, esta pela sua característica orginal e originária de apresentar algum detalhe normativo referente ao uso de IA, tende a revelar uma potencial capacidade contextualizadora e informadora daqueles valores fundamentais, dos princípios éticos e dos direitos humanos que devem orientar a evolução da IA[45]. Em boa verdade, a não consideração das razões fundamentadoras da Convenção poderá fazer perigar o Estado de Direito democrático, como revelam, por exemplo, a disseminação de notícias falsas com relevância na formação da vontade no contexto eleitoral (influência do sentido de voto[46]) com o auxílio de IA, o uso de ferramentas algorítmicas de avaliação de risco de reincidência criminal, vulnerando o direito a um processo equitativo[47] ou o uso de sistemas de IA não transparentes no exercício da atividade administrativa[48].
5. No que se refere à conformidade da legislação ordinária com a Convenção, é de ter em conta - para efeitos contextuais - que o tema da IA foi primariamente abordado através de um documento denominado «Estratégia Nacional de Inteligência Artificial», publicado em 2019, que «tem como objetivo promover e mobilizar a sociedade em geral, para o ensino e investigação, para a inovação e desenvolvimento de produtos e serviços suportadas em tecnologias IA»[49].
Posteriormente, agora no âmbito jurídico, é de destacar a Carta Portuguesa de Direitos Humanos na Era Digital[50], que surge no contexto do reconhecimento de direitos em ambiente digital, prevendo-se no artigo 2.º que: «1 - A República Portuguesa participa no processo mundial de transformação da Internet num instrumento de conquista de liberdade, igualdade e justiça social e num espaço de promoção, proteção e livre exercício dos direitos humanos, com vista a uma inclusão social em ambiente digital. 2 - As normas que na ordem jurídica portuguesa consagram e tutelam direitos, liberdades e garantias são plenamente aplicáveis no ciberespaço». No que tange ao uso de IA, é de ter em conta os números 1 e 2 do artigo 9.º, referentes ao uso da inteligência artificial e aos robôs, aí se prevendo que: «1 - A utilização da inteligência artificial deve ser orientada pelo respeito dos direitos fundamentais, garantindo um justo equilíbrio entre os princípios da explicabilidade, da segurança, da transparência e da responsabilidade, que atenda às circunstâncias de cada caso concreto e estabeleça processos destinados a evitar quaisquer preconceitos e formas de discriminação. 2 - As decisões com impacto significativo na esfera dos destinatários que sejam tomadas mediante o uso de algoritmos devem ser comunicadas aos interessados, sendo suscetíveis de recurso e auditáveis, nos termos previstos na lei».
Esta Carta - no que tange à regulação do uso de sistemas de IA – não contende, antes, surge em linha com a finalidade e as obrigações impostas pela Convenção. Responde-se, assim, afirmativamente à questão da não incompatibilidade da legislação ordinária com a Convenção. Adicionalmente, dado o carácter genérico e valor proclamatório[51] da Carta Portuguesa de Direitos Humanos na Era Digital, uma vez que, por um lado, não apresenta sanções em caso de incumprimento das obrigações aí previstas e, por outro, remete "para a lei"[52], esta muito pode beneficiar das dimensões interpretativa e integradora oferecidas pela Convenção.
IV
Conclusões
Em face do exposto, apresentam-se as seguintes conclusões:
1.ª – A adoção de sistemas de inteligência artificial quer pelo setor privado, quer pelo setor público levou, desde logo, no contexto europeu, à consideração da regulação jurídica desta tecnologia, assumindo particular relevância a adoção pelo Conselho da Europa de uma Convenção-Quadro para a regulação jurídica do impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
2.ª – A assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito revela-se em linha e em complemento com a opção de regulação jurídica pela União Europeia, em particular, com a adoção do Regulamento Inteligência Artificial;
3.ª – Os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito não contendem com qualquer princípio ou norma da Constituição da República Portuguesa, não suscitando, assim, obstáculos de natureza jurídico-constitucional;
4.ª – A assinatura da referida Convenção impõe, para o cumprimento das obrigações daí resultantes e sem prejuízo do princípio da subsidiariedade, a adoção de um conjunto de medidas legislativas, administrativas ou outras, e ainda a previsão dos necessários recursos humanos e orçamentais, assim como a formação e medidas de informação sobre o impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
5.ª – A legislação ordinária referente ao uso de inteligência artificial, maxime o disposto no artigo 9.º, n.ºs 1 e 2, da Carta Portuguesa de Direitos Humanos na Era Digital, desde logo, em razão do seu carácter genérico e proclamatório, não contende com os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito, antes, encontrando, neste instrumento de direito convencional, uma fonte jurídica interpretativa e integradora.
Lisboa, aos 5 de julho de 2024,
O vogal do Conselho Consultivo,
(Ricardo Lopes Dinis Pedro)
[1] Ofício n.º 2477, de 25 de junho de 2024.
[2] Apresenta a seguinte redação: «Compete ao Conselho Consultivo da Procuradoria-Geral da República: (…) b) Pronunciar-se, a pedido do Governo, acerca da formulação e conteúdo jurídico de projetos de diplomas legislativos, assim como das convenções internacionais a que Portugal pondere vincular-se».
[3] Aprovado pela Lei 68/2019, de 27 de agosto, alterado pela Lei n.º 2/2020, de 31 de março.
[4] O relator foi designado por Despacho do Senhor Vice-Procurador Geral da República em 27 de junho de 2024.
[5] Council of Europe Treaty Series - No. [225]. Não existe ainda uma tradução oficial da Convenção em referência para português. No entanto, encontram-se versões em língua inglesa e francesa em: https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence (acesso em 28.06.2024). Será tida em conta a versão em língua inglesa.
[6] São várias as técnicas e abordagens no domínio da IA, destacando-se: (i) abordagens de aprendizagem automática, incluindo aprendizagem supervisionada, não supervisionada e por reforço, utilizando uma grande variedade de métodos, designadamente aprendizagem profunda;(ii) abordagens baseadas na lógica e no conhecimento, nomeadamente representação do conhecimento, programação (lógica) indutiva, bases de conhecimento, motores de inferência e de dedução, sistemas de raciocínio (simbólico) e sistemas periciais; (iii) abordagens estatísticas, estimação de Bayes, métodos de pesquisa e otimização. Mais recentemente, é de ter em conta (iv) a IA generativa, que é um sistema de software que comunica em linguagem natural, capaz de dar respostas a perguntas relativamente complexas e de criar conteúdos (fornecer um texto, uma imagem ou um som) na sequência de uma pergunta ou de instruções formuladas (prompt), estas ferramentas incluem o OpenAI ChatGPT, o Copilot, o Gemini e o Bard. Nomeadamente, do ponto de vista da ciência da computação, entre nós, cf. Pedro Domingos, A Revolução do Algoritmo Mestre. Como a Inteligência Artificial está a mudar as nossas vidas, tradução de Francisco Silva Pereira, Manuscrito Editora, 2017; Arlindo Oliveira, Inteligência Artificial, Lisboa, FFMS, 2019, pp. 37 e ss.
[7] Da perspectiva da regulação jurídica no contexto público, cf. AA. VV., Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023; com incidência nos direitos humanos, entre muitos, cf. Filippo A. Raso, et al., “Artificial Intelligence & Human Rights: Opportunities & Risks” (September 25, 2018). Berkman Klein Center Research Publication No. 2018-6, http://dx.doi.org/10.2139/ssrn.3259344; com incidência no tópico da democracia, cf., entre outros, Paul Friedrich Nemitz, “Constitutional Democracy and Technology in the age of Artificial Intelligence” (August 18, 2018), Royal Society Philosophical Transactions, http://dx.doi.org/10.2139/ssrn.3234336; com incidência no Estado de Direito, cf. Aziz Z. Huq, "Artificial Intelligence and the Rule of Law", Public Law and Legal Theory Working Paper Series, No. 764 (2021).
[8] Sobre as “vagas” no uso de IA, cf. Tania Sourdin, Judges, Technology and Artificial Intelligence: The Artificial Judge, Cheltenham, UK, Edward Elgar, 2021, p. 18.
[9] Para algumas considerações sobre a regulação da IA noutras latitudes, cf., entre nós, cf. Pedro Correia / Bruno C. Garcia, “Inteligência Artificial e Políticas Públicas”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, pp. 18 e ss.
[10] O Conselho da Europa, enquanto organização europeia, apresenta objectivos essencialmente de carácter político, constituindo uma comunidade assente no triplo pilar da democracia parlamentar, do Estado de Direito e do respeito pelos direitos humanos. Para outros desenvolvimentos, cf. Ricardo Pedro, Responsabilidade civil do Estado pelo mau funcionamento da administração da justiça: fundamento, conceito e âmbito, Lisboa, Almedina, 2016, pp. 89 e ss.
[11] Voltaremos à regulação jurídica da IA por parte da pequena Europa mais adiante, cf. I.2.
[12] Veja-se a ISO/IEC 42001, a primeira norma internacional de sistema de gestão para Inteligência Artificial e em discussão. Sobre o tema, cf. Vicente Álvarez García, Jesús Tahirí Moreno, “La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque”, Revista General de Derecho Administrativo, ISSN-e 1696-9650, n.º 63, 2023.
[13] Cf., por exemplo, Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions - Building Trust in Human Centric Artificial Intelligence (COM(2019)168).
[14] Aprovado pelo Conselho Europeu, mas ainda não publicado oficialmente. Aguarda-se a assinatura pelos Presidentes do Parlamento Europeu e do Conselho, devendo, posteriormente, ser publicado no Jornal Oficial da União, entrando em vigor vinte dias após essa publicação. O novo regulamento será aplicável dois anos após a sua entrada em vigor, com algumas excepções para disposições específicas. Disponível em: https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/ (acesso em 1.07.2024). Uma versão em língua portuguesa encontra-se disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_PT.pdf (acesso em 1.07.2024).
[15] Também com relevância na regulação da IA, é de ter em conta o disposto no artigo 22.º do Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia (UE), aprovado Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho de 27 de abril de 2016 relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE, que prevê o “direito de não ser sujeito a decisões automáticas e a tratamento automático” em sentido lato. Sobre este direito, cf. Stéphanie Laulhé Shaelou, Yulia Razmetaeva, "Challenges to Fundamental Human Rights in the Age of Artificial Intelligence Systems: Shaping the Digital Legal Order while Upholding Rule of Law Principles and European Values", ERA Forum, 2023, Vol. 24, pp. 581 e ss. https://doi.org/10.1007/s12027-023-00777-2
[16] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[17] Também nestes sentido, cf. Marten Breuer: The Council of Europe as an AI Standard Setter, VerfBlog, 2022/4/04, https://verfassungsblog.de/the-council-of-europe-as-an-ai-standard-setter/, DOI: 10.17176/20220405-011301-0.
[18] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[19] Alinhamento que se torna evidente do confronto da noção de IA oferecida pelo artigo 2.º da Convenção: «“artificial intelligence system” means a machine-based system that for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments. Different artificial intelligence systems vary in their levels of autonomy and adaptiveness after deployment» com a noção de IA prevista no artigo 3.º, n.º 1, do RIA: «‘AI system’ means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments». Defendendo o referido alinhamento por referência a uma abordagem assente no riscos dos sistemas de IA, cf. Marten Breuer: The Council of Europe as an AI Standard Setter, VerfBlog, 2022/4/04, https://verfassungsblog.de/the-council-of-europe-as-an-ai-standard-setter/, DOI: 10.17176/20220405-011301-0. Apesar de a Convenção não fazer um tratamento explícito assente numa abordadem de risco, mas antes implícito.
[20] Convenção para a Liberdade dos Direitos do Homem e das Liberdades Fundamentais assinada em Roma, em 4 de Novembro de 1950 e seus protocolos adicionais, vulgarmente designada por Convenção Europeia dos Direitos do Humanos, introduzida na ordem jurídica nacional pela Lei n.º 65/78, de 13 de outubro.
[21] Cf. supra nota 6.
[22] Sobre o tema da transparência no contexto da administração pública, cf. Ricardo Pedro, "Luzes e Sombras sobre a Transparência no Uso de Inteligência Artificial e de Algoritmos pela Administração Pública", in Em Nome da Transparência no Direito Administrativo: Um Diálogo Luso-Brasileiro, Carla Amado Gomes, Ricardo Pedro, Eurico Bitencourt Neto (Coord.), Lisboa, Almedina, 2023, pp. 423-458.
[23] Publicado no Diário da República, 2.ª Série, n.º 14, de 21 de janeiro de 2013. Veja-se também o Parecer n.º 6/2022, de 9 de maio de 2022 (disponível em: https://www.ministeriopublico.pt/pareceres-pgr).
[24] Disponível em: https://www.ministeriopublico.pt/pareceres-pgr
[25] Nas palavras de António Cândido, “(...) do aspecto juridico, unico da minha competência (...)” em Parecer de 1910, in António Cândido – Procurador Geral da Coroa e Fazenda, CEA, 2024, p. 84.
[26] Disponível em: https://www.ministeriopublico.pt/pareceres-pgr
[27] Tendo presente que não está em causa nenhuma norma imperativa de direito internacional geral (ius cogens),
não contendendo com o previsto no artigo 53.º, 2ª parte, da Convenção de Viena sobre o Direito dos Tratados, assinada a 23 de Maio de 1969, que prevê: «Para os efeitos da presente Convenção, uma norma aceite e reconhecida pela comunidade internacional dos Estados no seu todo como norma cuja derrogação não é permitida e que só pode ser modificada por uma nova norma de direito internacional geral com a mesma natureza», antes se está perante o cumprimento de obrigações internacionais, livre e autonomamente assumiveis pelo Estado Português.
[28] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 258 e ss.
[29] Cf., nomeadamente, Informação/Parecer n.º 70/1994, de 16 de fevereiro de 1995, Informação/Parecer n.º 36/1999, de 30 de agosto de 2002, segundo Informação/Parecer Complementar n.º 2/93, de 20 de abril de 2005, Informação/Parecer n.º 4/2008, de 1 de junho de 2011. Todos disponíveis em: https://www.ministeriopublico.pt/pareceres-pgr
[30] Cf. doutrina maioritária neste sentido, Jorge Miranda, Curso de Direito Internacional Público, 4.º ed., Principia, Parede, 2009, p. 171 e ss; André Gonçalves Pereira / Fausto de Quadros, Manual de Direito Internacional Público, 3ª ed., Almedina, Coimbra, 2005, p. 121.
[31] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 203 e ss.
[32] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 366 e ss. Sobre algumas das dimensões que incui esse conceito, cf. Jorge Miranda / Rui Medeiros (eds.), Constituição Portuguesa Anotada, tomo I, Coimbra Editora, Coimbra, 2006, pp. 60 e ss.
[33] Sobre a abertura desta cláusula, cf. Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, p. 366.
[34] L. Cotino Hueso, “El Convenio sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho del Consejo de Europa”, Revista Administración & Cidadanía, EGAP, 2024, em publicação, apud Jacques Ziller, The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments (April 29, 2024), CERIDAP - ISSN 2723-9195.
[35] Veja-se, a este propósito, o Parecer do Conselho Superior de Magistratura a propósito de uma “Proposta de Convenção sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito”, p. 13 e 26. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.csm.org.pt/wp-content/uploads/2023/03/Parecer-sobre-Proposta-de-Convencao-sobre-inteligencia-artificial-direitos-humanos-democracia-e-Estado-de-Direito-Pedido-da-DGPJ.pdf (acesso em 2.07.2024).
[36] Destaques aditados.
[37] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[38] Ricardo Pedro, "Artificial intelligence on public sector in Portugal: first legal approach", Juridical Tribune 13 2 (2023): http://dx.doi.org/10.24818/tbj/2023/13/2.01.
[39] A propósito da independência judicial, cf. Juan-Luis Gómez Colomer, El Juez-Robot: La Independencia Judicial en Peligro, Valencia, Tirant lo Blanch, 2023, pp. 169 e ss e 197 e ss.
[40] Cf. Jorge Reis Novais, "Estado de Direito", in Dicionário Jurídico da Administração Pública, IV, Lisboa, Edição de Autor, 1991, p. 251.
[41] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, p. 205.
[42] Acentuando esta preocupação no contexto da “justiça digital”, cf. Nuno Coelho (coordenador-geral), José Mouraz Lopes / Ana de Azevedo Coelho / José Joaquim Oliveira Martins / António João Latas / Sónia Moura (coordenadores temáticos), Agenda da Reforma da Justiça: Uma Reflexão Aberta e Alargada do Judiciário, Coimbra, Almedina, 2023, p. 316.
[43] J. J. Gomes Canotilho, Direito constitucional e teoria da Constituição, 7ª ed., Coimbra, Almedina, 2003, p. 285.
[44] J. J. Gomes Canotilho, Direito constitucional e teoria da Constituição, 7ª ed., Coimbra, Almedina, 2003, p. 243.
[45] Em sentido próximo, cf. L. Cotino Hueso, “El Convenio sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho del Consejo de Europa”, Revista Administración & Cidadanía, EGAP, 2024, em publicação, apud Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[46] Entre muitos, cf. Pedro Correia / Bruno C. Garcia, Inteligência Artificial e Políticas Públicas”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, p. 36.
[47] Entre muitos, cf. Ricardo Pedro, "A Nova Litigância Judicial Causada por Algoritmos Digitais: de «Estado c. Loomis»; a «NCJM, Outros e FNV c. Estado»: Uso e/ou «Acesso» Público aos Algoritmos pelo Tribunal", in Anais - Enajus 2023, Brasil, 2023.
[48] Entre outros, cf. Ricardo Pedro / Inês Oliveira, "Inteligência Artificial: Privacidade e Transparência", Revista de Direito Público da Economia 84 (2023), pp. 199-212.
[49] Disponível em: https://www.incode2030.gov.pt/aip-2030/ (acesso em 1.07.2024).
[50] Aprovada pela Lei n.º 27/2021, de 17 de maio.
[51] Cf. José Melo Alexandrino, “Dez breves apontamentos sobre a carta portuguesa de direitos humanos na era digital”, p. 2. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.icjp.pt/sites/default/files/papers/dez_breves_apontamentos_sobre_a_carta_portuguesa.pdf (acesso em 2.07.2024). Destacando a inoperatividade das normas previstas no artigo 9.º da Carta, cf. Tiago Cabral, “Inteligência artificial e atividade judicial: análise das principais questões a nível de proteção de dados pessoais e do futuro regulamento da união europeia sobre IA”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, p. 102. Também muitos críticos em relação à efectividade da Carta, cf. Nuno Coelho (coordenador-geral), José Mouraz Lopes / Ana de Azevedo Coelho / José Joaquim Oliveira Martins / António João Latas / Sónia Moura (coordenadores temáticos), Agenda da Reforma da Justiça: Uma Reflexão Aberta e Alargada do Judiciário, Coimbra, Almedina, 2023, p. 273.
[52] À data a remissão legal seria, em particular, para o disposto nos artigos 13.º, 14.º e 22.º do RGPD (cf. nota 15) e para o artigo 11.º da Lei n.º 59/2019, de 8 de agosto, que aprova as regras relativas ao tratamento de dados pessoais para efeitos de prevenção, deteção, investigação ou repressão de infrações penais ou de execução de sanções penais, transpondo a Diretiva (UE) 2016/680 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, que prevê: «1 - São proibidas as decisões tomadas exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produzam efeitos adversos na esfera jurídica do titular dos dados ou que o afetem de forma significativa, exceto quando autorizadas por lei, desde que seja previsto o direito de o titular dos dados obter a intervenção humana do responsável pelo tratamento. 2 - As decisões a que se refere o número anterior não podem basear-se nas categorias especiais de dados pessoais previstos no artigo 6.º». Norma que concorre já para o cumprimento das medidas impostas pela Convenção.
RP
Senhor Ministro de Estado e dos Negócios Estrangeiros
Excelência:
Dignou-se Vossa Excelência solicitar[1] parecer/informação ao Conselho Consultivo da Procuradoria-Geral da República, nos termos da alínea b) do artigo 44.º[2] do Estatuto do Ministério Público[3]-[4], quanto à oportunidade da assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito.
O pedido vem acompanhado de versão na língua inglesa do «Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law»[5] e de Carta do Conselho da Europa sobre a abertura para a assinatura da referida Convenção, assinada pelo Director Jurídico para o Direito Público e Internacional, também em língua inglesa.
Cumpre emitir a informação/parecer.
I
Considerações preliminares
1. A relevância da Inteligência Artificial[6] (IA)[7]-[8] no contexto social, económico e outros e, em particular, o seu impacto negativo em certas dimensões de elevada importância societal levou a que, nomeadamente, no contexto europeu[9] - da grande Europa (Conselho da Europa)[10] e da pequena europa (União Europeia)[11] – se ponderasse a sua regulação jurídica, ética e técnica. Descontada a dimensão técnica, que tenderá a seguir um rumo comum de normalização[12] e a ética, que muito fica a dever à sua efetividade[13], pouco resta, na cultura que nos anima, do que voltar a atenção para a regulação jurídica.
Como já se deixa adivinhar do brevemente referido, será em função do impacto da IA nas diferentes esferas societais que se justificará a sua regulação jurídica, assumindo particular relevância certos «adquiridos comuns», como o Estado de Direito, a democracia e os direitos humanos, surgindo, assim, a Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito enquanto documento inaugural nesta matéria, que define princípios e regras gerais comuns que governem as atividades dentro do ciclo de vida dos sistemas de IA, preservando efetivamente os valores compartilhados e aproveitando os benefícios da IA para a promoção desses valores de maneira que conduza à inovação responsável.
A Convenção assume, por um lado, que a IA tem potencial para «promover a prosperidade humana, bem como o bem-estar individual e societal, o desenvolvimento sustentável, a igualdade de género e o “empoderamento” de todas as mulheres, assim como outros objetivos e interesses importantes, ao melhorar o progresso e a inovação» e, por outro, que a IA revela riscos, ao longo de todo o seu ciclo de vida, que podem minar a «dignidade humana e a autonomia individual, os direitos humanos, a democracia e o Estado de direito», nomeadamente, revelando potencial para «criar ou agravar desigualdades, incluindo as experienciadas por mulheres e indivíduos em situações vulneráveis, em relação ao gozo de seus direitos humanos e sua plena, igual e efetiva participação em assuntos económicos, sociais, culturais e políticos», com destaque para o uso indevido de sistemas de IA «para fins repressivos em violação do direito internacional dos direitos humanos, incluindo através de vigilância arbitrária ou ilegal e práticas de censura que erodem a privacidade e a autonomia individual».
2. Para além da Convenção, são de ter em conta outras iniciativas de regulação jurídica da IA com forte impacto na Europa e em Portugal, pensa-se, em particular, no Regulamento Inteligência Artificial (de ora em diante “RIA”)[14]-[15]. Conforme resulta do artigo 1.º do RIA, «1. A finalidade do presente regulamento é melhorar o funcionamento do mercado interno e promover a adoção de uma inteligência artificial centrada no ser humano e de confiança, assegurando simultaneamente um elevado nível de proteção da saúde, da segurança e dos direitos fundamentais consagrados na Carta dos Direitos Fundamentais, incluindo a democracia, o Estado de direito e a proteção do ambiente, contra os efeitos nocivos dos sistemas de inteligência artificial ("sistemas de IA") na União, bem como apoiar a inovação. 2. O presente regulamento estabelece: a) Regras harmonizadas para a colocação no mercado, a colocação em serviço e a utilização de sistemas de IA na União; b) Proibições de certas práticas de IA; c) Requisitos específicos para sistemas de IA de risco elevado e obrigações para os operadores desses sistemas; d) Regras de transparência harmonizadas para determinados sistemas de IA; e) Regras harmonizadas para a colocação no mercado de modelos de IA de finalidade geral; f) Regras relativas à fiscalização do mercado, à vigilância do mercado, à governação e à aplicação da lei; g) Medidas de apoio à inovação, com especial ênfase nas PME, incluindo as empresas em fase de arranque».
Apesar de alguma coincidência no que tange ao âmbito objetivo da Convenção e do RIA, deve destacar-se que, no que se refere ao âmbito subjetivo, o primeiro diploma se situa perante no âmbito da grande Europa, enquanto no segundo se está perante a pequena Europa. Acresce que, como sublinha JACQUES ZILLER, o instrumento usado pelo Conselho da Europa é uma convenção-quadro, ou seja, um tratado internacional conhecido como Convenção-Quadro sobre Inteligência Artificial, Direitos Humanos, Democracia e Estado de Direito, enquanto a União Europeia usa um regulamento conhecido como Regulamento do Parlamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de inteligência artificial (RIA) e que altera certos atos legislativos da União[16]. Releva ainda considerar que, nomeadamente, a redação do artigo 1.º do RIA deixa clara a marca deste ato legislativo na previsão de regras para o funcionamento do mercado comum[17]; o que, aliás, não deixa de ter reflexos nos considerandos e nas disposições do RIA que afetam diretamente as autoridades públicas, na medida em que se revelam extraordinariamente complexos[18]. Por fim, não é despiciendo deixar referido que o cumprimento dos valores Estado de Direito, democracia e os direitos humanos no uso de sistemas de IA envolverá em grande medida atividades públicas.
Em síntese, para além do alinhamento[19] entre a Convenção e o RIA, estes instrumentos normativos apresentam-se numa ótica de complementaridade, representando duas peças de um puzzle normativo que caberá à praxis demonstrar a sua suficiência ou não.
II
A Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito
1. A Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito (de ora em diante “Convenção”) apresenta-se estruturada em oito capítulos, assumindo, em língua inglesa, o seguinte “wording”:
Preamble
Chapter I – General provisions
Chapter II – General obligations
Chapter III – Principles related to activities within the lifecycle of artificial intelligence systems
Chapter IV – Remedies
Chapter V – Assessment and mitigation of risks and adverse impacts
Chapter VI – Implementation of the Convention
Chapter VII – Follow-up mechanism and co-operation
Chapter VIII – Final clauses
2. O preâmbulo da Convenção parte da ideia de que a principal missão do Conselho da Europa é proteger, principalmente por meio de instrumentos jurídicos vinculativos, os direitos humanos e o Estado de Direito em uma sociedade democrática, conforme estabelecido no Estatuto do Conselho da Europa e na Convenção Europeia dos Direitos Humanos[20], sublinhando que a Convenção tem por objetivo abordar os desafios específicos que se colocam ao longo do ciclo de vida dos sistemas de IA e incentivar a consideração dos riscos e impactos mais vastos relacionados com estas tecnologias, incluindo, mas não exclusivamente, na saúde humana e no ambiente, e nos aspetos socioeconómicos, como o emprego e o trabalho.
3. O Capítulo I, relativo a disposições gerais, integra o artigo 1.º, que se dedica ao objeto e finalidade da Convenção, prevê a necessidade da conformação de todos os sistemas de IA ao longo do seu ciclo de vida com os direitos humanos, democracia e Estado de Direito, por via da implementação, pelos Estados-Partes, de medidas adequadas (legislativas, administrativas ou outras).
Este capítulo, no artigo 2.º, prevê um dos temas mais relevantes da regulação da IA, que é o da sua definição. Trata-se de um tema problemático em razão da emergência de inovação da IA, como recentemente revelou o aparecimento da IA generativa[21].
A terminar este capítulo, o artigo terceiro dedica-se ao âmbito de aplicação da Convenção, determinando a sua aplicação às autoridades públicas e a entes privados, podendo as Partes não aplicar a presente Convenção às atividades do ciclo de vida dos sistemas de IA relacionadas com a proteção dos seus interesses de segurança nacional. Adianta ainda que não integram o seu âmbito objetivo as atividades de investigação e desenvolvimento relativas a sistemas de IA ainda não disponíveis para utilização (a menos que os ensaios ou atividades semelhantes sejam realizados de forma a poderem interferir com os direitos humanos, a democracia e o Estado de Direito) e questões relativas à defesa nacional.
4. O Capítulo II é dedicado às obrigações gerais, prevendo-se, no artigo 4.º, a necessidade de proteção dos direitos humanos em coerência com as obrigações de proteção dos direitos humanos, tal como consagradas no direito internacional aplicável e no direito interno.
Já o artigo 5.º é dedicado à integridade dos processos democráticos e respeito pelo Estado de Direito, impondo a adoção ou manutenção de medidas destinadas a garantir que os sistemas de IA não sejam utilizados para comprometer a integridade, a independência e a eficácia das instituições e dos processos democráticos (v.g. o acesso equitativo dos indivíduos e a sua participação no debate público, bem como a sua capacidade de formar livremente opiniões), incluindo o princípio da separação de poderes, o respeito pela independência judicial e o acesso à justiça.
5. O Capítulo III estabelece vários princípios relativos às atividades do ciclo de vida dos sistemas de IA, impondo a adoção de medidas adequadas ao seu direito interno e à Convenção (artigo 6.º), para a proteção da dignidade humana e autonomia individual (artigo 7.º), para a garantia da transparência e supervisão dos sistemas de IA adequadas ao seu nível de risco (artigo 8.º), para a garantia da responsabilização e a prestação de contas pelos impactos negativos nos direitos humanos, na democracia e no Estado de Direito resultantes de atividades no âmbito do ciclo de vida dos sistemas de IA (artigo 9.º), para a garantia da igualdade e não discriminação (artigo 10.º), para a garantia da privacidade e proteção dos dados pessoais (artigo 11.º), para a garantia da fiabilidade dos sistemas de lA e a confiança nos seus resultados (artigo 12.º) e para a promoção de inovação segura, nomeadamente, por meio da criação de ambientes controlados para o desenvolvimento, a experimentação e o ensaio de sistemas de IA sob a supervisão das autoridades competentes (artigo 13.º).
6. O Capítulo IV é dedicado aos meios jurídicos de reação (“Remedies”), devendo as Partes, em conformidade com as obrigações internacionais e o direito interno, adotar ou manter medidas para assegurar a disponibilidade de “remédios” acessíveis e eficazes em razão de violações dos direitos humanos resultantes das atividades exercidas por sistemas de IA, seja ao nível da transparência[22], seja ao nível da sua “impugnação” efetiva (artigo 14.º).
Está ainda previsto que os visados sejam notificados sempre que estejam a interagir com um sistema de IA, devendo estar previstos também meios processuais para a sua defesa em caso de lesão de direitos humanos (artigo 15.º).
7. O Capítulo V, composto pelo artigo 16.º, é, por referência aos princípios estabelecidos no Capítulo III, relativo à avaliação e mitigação de riscos e impactos adversos, prevendo-se a necessidade de avaliações de impacto dos sistemas de IA em matéria de direitos humanos, democracia e Estado de Direito, de forma a prevenir, identificar, avaliar, mitigar e relatar riscos e impactos adversos numa lógica de proporcionalidade e adequação.
8. O Capítulo VI é dedicado à aplicação da Convenção, devendo a sua efetivação ser assegurada sem discriminação, seja qual for o motivo, em conformidade com as obrigações internacionais em matéria de direitos humanos (artigo 17.º). É dedicada atenção aos direitos das pessoas com deficiência e das crianças (artigo 18.º) e impõe-se que as Partes diligenciem no sentido de os sistemas de IA mais relevantes, desde logo, em razão das suas implicações sociais, económicas, jurídicas, éticas, ambientais e outras, serem sujeitos a consulta pública (artigo 19.º).
A compreensão dos sistemas de IA impõe também diligências no sentido de aumentar a literacia e competências digitais de todos os segmentos da população, e ainda competências específicas para os responsáveis pela identificação, avaliação, prevenção e atenuação dos riscos colocados pelos sistemas de IA (artigo 20.º).
O artigo 21.º apresenta uma cláusula relativa à salvaguarda dos direitos humanos em vigor. Por fim, o artigo 22.º prevê um princípio de proteção mínima, estabelecendo a possibilidade de as Partes concederem medidas de proteção mais amplas do que as previstas na Convenção.
9. O Capítulo VII é dedicado ao mecanismo de acompanhamento e cooperação, estabelecendo regras sobre a Conferência das Partes (artigo 23.º), estabelece ainda a obrigação de apresentação de relatórios (artigo 24.º), com destaque para um relatório a apresentar à Conferência das Partes nos primeiros dois anos após a sua adesão e, depois disso, periodicamente com pormenores sobre as atividades desenvolvidas para dar cumprimento ao disposto nas alíneas a) e b), do n.º 1, do artigo 3.º, da Convenção.
São dedicadas normas à cooperação internacional (artigo 25.º) e à criação de mecanismos de controlo eficazes do cumprimento das obrigações decorrentes da presente Convenção (artigo 26.º).
10. Por fim, o Capítulo VIII estabelece cláusulas finais relativas: aos efeitos da Convenção (artigo 27.º), às alterações à Convenção (artigo 28.º), à resolução de litígios (artigo 29.º), à assinatura e entrada em vigor (artigo 30.º), à adesão de qualquer Estado não membro do Conselho da Europa que não tenha participado na sua elaboração (artigo 31.º), à aplicação territorial (artigo 32.º), a cláusulas federais (artigo 33.º), a reservas (artigo 34.º), à denúncia (artigo 35.º) e a notificações do Secretário-Geral do Conselho da Europa (artigo 36.º).
III
A oportunidade de assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito
1. A resposta à consulta deve ter presente o entendimento deste Conselho Consultivo no que tange às suas funções consultivas. Referiu-se no Parecer n.º 45/2012, de 4 de janeiro de 2013[23], que: «(…) [O] exercício da função consultiva envolve mecanismos de responsabilizações múltiplas, do próprio órgão consultivo através das suas estruturas argumentativas e corolários extraídos das mesmas, e do consulente ao estabelecer o objeto daquela pronúncia exclusivamente técnica em que, para empregar as palavras de Luhmann, se estabelece um território em que “a extensão e a coordenação das diversas responsabilidades não podem ser realizadas isoladamente sem considerar o contexto estrutural e programático da atividade decisória”».
Esclareceu-se na Informação/Parecer n.º 16/2016, de 7 de setembro de 2016[24], que: «Existe, assim, uma clara componente funcional no que concerne a pareceres do Conselho Consultivo que incidam «sobre disposições de ordem genérica», sem interferir com dimensões que estão para além das condições de ação, no plano jurídico-legal, isto é, este órgão consultivo apenas se deve pronunciar sobre matéria de legalidade, sem ponderações de raiz política que analiticamente sejam autonomizáveis daquelas condições».
No que tange à apreciação da juridicidade[25] de convenções internacionais, deve, em linha com a Informação-Parecer n.º 114/2000, de 4 de julho de 2000[26], assumir-se que: «Dentro da análise estritamente jurídica para que está vocacionado, a investigação orienta-se pelo critério da compatibilidade ou da incompatibilidade dos textos com as normas e princípios da ordem jurídica portuguesa, designadamente os princípios fundamentais consagrados na Constituição, quer no que respeita a esses instrumentos no seu todo, quer no concernente a algumas das suas disposições em concreto».
Destarte, é à luz do referido entendimento que será apreciada a oportunidade de assinatura da Convenção em apreço[27], desde logo, no que tange aos temas relativos a direitos humanos, democracia e Estado de Direito. A oportunidade de assinatura da Convenção está, assim, condicionada à sua conformidade constitucional, em particular, por imposição do disposto no artigo 8.º, n.º 2, da Constituição da República Portuguesa (de ora em diante “Constituição”), que prevê o carácter infraconstitucional (subordinação hierárquica à Constituição[28]) de tais instrumentos convencionais e, por outro lado, como tem sido reafirmado por este Conselho Consultivo[29], tais instrumentos convencionais têm primado sobre o direito interno infraconstitucional[30] – portanto, supralegal.
Em síntese, importa apurar da conformidade (i) da Convenção com a Constituição e (ii) da legislação ordinária com a Convenção. É o que se fará de imediato.
2. A Convenção incide sobre a proteção de vários valores fundamentais da nossa sociedade, que também se encontram abrangidos de forma expressa pela nossa Constituição, como acontece com o conceito aglutinador[31] Estado de direito democrático, previsto no artigo 2.º da Constituição, que determina que «A República Portuguesa é um Estado de direito democrático, baseado na soberania popular, no pluralismo de expressão e organização política democráticas, no respeito e na garantia de efetivação dos direitos e liberdades fundamentais e na separação e interdependência de poderes, visando a realização da democracia económica, social e cultural e o aprofundamento da democracia participativa» e com os direitos fundamentais, desde logo, por referência a alguns dos enunciados no direito internacional dos direitos humanos[32], por apelo à cláusula aberta prevista no artigo 16.º da Constituição[33].
A relevância de tais valores no contexto de uso de IA é também fonte de precupação da União Europeia, como revela, em particular, a sua participação nas negociações da Convenção. Pois, conforme resulta do Relatório Explicativo da Convenção: «The European Union also participated in the negotiations represented by the European Commission, including in its delegation also representatives from the European Union Agency for Fundamental Rights (FRA) and the European Data Protection Supervisor (EDPS)». A importância (e oportunidade de assinatura) da Convenção encontra expressão no artigo 27.º, n.º 2, da Convenção, que determina:«Parties which are members of the European Union shall, in their mutual relations, apply European Union rules governing the matters within the scope of this Convention without prejudice to the object and purpose of this Convention and without prejudice to its full application with other Parties. The same applies to other Parties to the extent that they are bound by such rules», podendo recolher-se do Relatório Explicativo da Convenção, por referência ao disposto no artigo 27.º, n.º 2, da Convenção, que: «Paragraph 2 of this article also acknowledges the increased integration of the European Union, particularly as regards regulation of artificial intelligence systems. This paragraph, therefore, permits European Union member States to apply European Union law that governs matters dealt with in this Framework Convention between themselves. The Drafters intended European Union law to include measures, principles and procedures provided for in the European Union legal order, in particular laws, regulations or administrative provisions as well as other requirements, including court decisions».
3. Como sustenta COTINO HUESO «A Convenção não só tem um valor simbólico e metajurídico, mas é também um instrumento normativo, com capacidade de integração quase constitucional nos sistemas jurídicos dos Estados Partes e tem um grande potencial interpretativo»[34]. Ou seja, a Convenção surge como um documento jurídico inaugural que define princípios e regras que visam o cumprimento e o reforço dos valores de pendor constitucional referentes a direitos humanos, democracia e Estado de Direito no contexto da aplicação de IA ao longo do seu ciclo de vida em várias atividades, desde logo, detalha alguns dos direitos previstos na Convenção Europeia dos Direitos Humanos[35], situando-os no contexto do uso de sistemas de IA ao longo do seu ciclo de vida. Daí a sua capacidade de interpretação e integração, em particular, pela imposição de desenvolvimento de medidas pelas Partes.
Importa destacar o disposto no artigo 4.º da Convenção que prevê: «Each Party shall adopt or maintain measures to ensure that the activities within the lifecycle of artificial intelligence systems are consistent with obligations to protect human rights, as enshrined in applicable international law and in its domestic law» e, em clarificação, o Relatório Explicativo da Convenção refere que: «At the same time, Parties are free to choose the ways and means of implementing their international legal obligations, provided that the result is in conformity with those obligations. This is an obligation of result and not an obligation of means. In this respect, the principle of subsidiarity is essential[36], putting upon the Parties the primary responsibility to ensure respect for human rights and to provide redress for violations of human rights». Daqui há de resultar a adoção de regulamentos e legislação necessários (que, para os Estados-Membros da União, é parcialmente abrangida pelo RIA, que é um instrumento diretamente aplicável), mas também os necessários recursos humanos e orçamentais, formação e medidas de informação[37]. Mais, uma vez que o RIA apresenta uma fraca incidência sobre os entes públicos, poderá revelar-se necessária uma nova “camada” de normatividade, nomeadamente, em matéria de atividade administrativa[38] e judicial[39].
4. Partindo do estalão constitucional, enquanto parâmetro de controlo, desde logo, no que se refere ao Estado de Direito Democrático, importa ter em conta que se trata de um conceito que envolve vários segmentos normativos constitucionais (materiais e formais[40]), que se expressa na ideia de sujeição do poder aos princípios e regras jurídicos, de modo a garantir a igualdade e segurança aos cidadãos[41] e que se encontra representado numa constelação de normas e princípios (ou subprincípios como o da legalidade da administração, da segurança jurídica e da proporcionalidade) previstos em vários artigos da Constituição. Sem preocupação de exaustão, no que tange à dimensão Estado de Direito, para além do artigo 2.º, tenha-se em conta o disposto no artigo 3.º (princípio da constitucionalidade); no artigo 9.º, alínea d) (direitos económicos, sociais e culturais); no artigo 18.º (regime de proteção dos direitos, liberdades e garantias); no artigo 20.º (acesso à justiça e tutela jurisdicional efectiva); no artigo 111.º (separação e interdependência de poderes/funções); no artigo 216.º (independência dos juízes)[42] e, na vertente Estado democrático, entre outros, o disposto no artigo 1.º (por referência à vontade popular); no artigo 10.º (sufrágio universal); no artigo 108.º (titularidade do poder), enquanto (algumas) expressões do complexo e aberto princípio democrático, que impõe o desenvolvimento de dimensões materiais e organizativo-procedimentais[43].
O cotejo da referida normatividade constitucional, nuclear de valores próprios da ideia de Estado de Direito Democrático e sob os pressupostos da juridicidade, constitucionalidade e direitos fundamentais[44], com a finalidade, as obrigações e princípios da Convenção, relembre-se muito mais restritos, uma vez que se limitam a situações em que está em causa inteligência artificial (em síntese, visam garantir que as atividades no âmbito do ciclo de vida dos sistemas de inteligência artificial sejam plenamente coerentes com os direitos humanos, a democracia e o Estado de Direito), não revela razões de antagonismo normativo entre a Constituição e a Convenção. Responde-se, assim, afirmativamente à questão da conformidade da Convenção com a Constituição.
Acresce que, em razão da inexistência de normatividade de valor constitucional relativa à regulação da IA, antes princípios e normas fundamentais de vocação geral, que também se lhe aplicarão, e que a Convenção se dedica a detalhar normas de garantia de valores fundamentais como o Estado de Direito, a democracia e direitos humanos no contexto do ciclo de vida de uso da IA, esta pela sua característica orginal e originária de apresentar algum detalhe normativo referente ao uso de IA, tende a revelar uma potencial capacidade contextualizadora e informadora daqueles valores fundamentais, dos princípios éticos e dos direitos humanos que devem orientar a evolução da IA[45]. Em boa verdade, a não consideração das razões fundamentadoras da Convenção poderá fazer perigar o Estado de Direito democrático, como revelam, por exemplo, a disseminação de notícias falsas com relevância na formação da vontade no contexto eleitoral (influência do sentido de voto[46]) com o auxílio de IA, o uso de ferramentas algorítmicas de avaliação de risco de reincidência criminal, vulnerando o direito a um processo equitativo[47] ou o uso de sistemas de IA não transparentes no exercício da atividade administrativa[48].
5. No que se refere à conformidade da legislação ordinária com a Convenção, é de ter em conta - para efeitos contextuais - que o tema da IA foi primariamente abordado através de um documento denominado «Estratégia Nacional de Inteligência Artificial», publicado em 2019, que «tem como objetivo promover e mobilizar a sociedade em geral, para o ensino e investigação, para a inovação e desenvolvimento de produtos e serviços suportadas em tecnologias IA»[49].
Posteriormente, agora no âmbito jurídico, é de destacar a Carta Portuguesa de Direitos Humanos na Era Digital[50], que surge no contexto do reconhecimento de direitos em ambiente digital, prevendo-se no artigo 2.º que: «1 - A República Portuguesa participa no processo mundial de transformação da Internet num instrumento de conquista de liberdade, igualdade e justiça social e num espaço de promoção, proteção e livre exercício dos direitos humanos, com vista a uma inclusão social em ambiente digital. 2 - As normas que na ordem jurídica portuguesa consagram e tutelam direitos, liberdades e garantias são plenamente aplicáveis no ciberespaço». No que tange ao uso de IA, é de ter em conta os números 1 e 2 do artigo 9.º, referentes ao uso da inteligência artificial e aos robôs, aí se prevendo que: «1 - A utilização da inteligência artificial deve ser orientada pelo respeito dos direitos fundamentais, garantindo um justo equilíbrio entre os princípios da explicabilidade, da segurança, da transparência e da responsabilidade, que atenda às circunstâncias de cada caso concreto e estabeleça processos destinados a evitar quaisquer preconceitos e formas de discriminação. 2 - As decisões com impacto significativo na esfera dos destinatários que sejam tomadas mediante o uso de algoritmos devem ser comunicadas aos interessados, sendo suscetíveis de recurso e auditáveis, nos termos previstos na lei».
Esta Carta - no que tange à regulação do uso de sistemas de IA – não contende, antes, surge em linha com a finalidade e as obrigações impostas pela Convenção. Responde-se, assim, afirmativamente à questão da não incompatibilidade da legislação ordinária com a Convenção. Adicionalmente, dado o carácter genérico e valor proclamatório[51] da Carta Portuguesa de Direitos Humanos na Era Digital, uma vez que, por um lado, não apresenta sanções em caso de incumprimento das obrigações aí previstas e, por outro, remete "para a lei"[52], esta muito pode beneficiar das dimensões interpretativa e integradora oferecidas pela Convenção.
IV
Conclusões
Em face do exposto, apresentam-se as seguintes conclusões:
1.ª – A adoção de sistemas de inteligência artificial quer pelo setor privado, quer pelo setor público levou, desde logo, no contexto europeu, à consideração da regulação jurídica desta tecnologia, assumindo particular relevância a adoção pelo Conselho da Europa de uma Convenção-Quadro para a regulação jurídica do impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
2.ª – A assinatura da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito revela-se em linha e em complemento com a opção de regulação jurídica pela União Europeia, em particular, com a adoção do Regulamento Inteligência Artificial;
3.ª – Os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito não contendem com qualquer princípio ou norma da Constituição da República Portuguesa, não suscitando, assim, obstáculos de natureza jurídico-constitucional;
4.ª – A assinatura da referida Convenção impõe, para o cumprimento das obrigações daí resultantes e sem prejuízo do princípio da subsidiariedade, a adoção de um conjunto de medidas legislativas, administrativas ou outras, e ainda a previsão dos necessários recursos humanos e orçamentais, assim como a formação e medidas de informação sobre o impacto dos sistemas de inteligência artificial nos direitos humanos, na democracia e no Estado de Direito;
5.ª – A legislação ordinária referente ao uso de inteligência artificial, maxime o disposto no artigo 9.º, n.ºs 1 e 2, da Carta Portuguesa de Direitos Humanos na Era Digital, desde logo, em razão do seu carácter genérico e proclamatório, não contende com os princípios e normas da Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito, antes, encontrando, neste instrumento de direito convencional, uma fonte jurídica interpretativa e integradora.
Lisboa, aos 5 de julho de 2024,
O vogal do Conselho Consultivo,
(Ricardo Lopes Dinis Pedro)
[1] Ofício n.º 2477, de 25 de junho de 2024.
[2] Apresenta a seguinte redação: «Compete ao Conselho Consultivo da Procuradoria-Geral da República: (…) b) Pronunciar-se, a pedido do Governo, acerca da formulação e conteúdo jurídico de projetos de diplomas legislativos, assim como das convenções internacionais a que Portugal pondere vincular-se».
[3] Aprovado pela Lei 68/2019, de 27 de agosto, alterado pela Lei n.º 2/2020, de 31 de março.
[4] O relator foi designado por Despacho do Senhor Vice-Procurador Geral da República em 27 de junho de 2024.
[5] Council of Europe Treaty Series - No. [225]. Não existe ainda uma tradução oficial da Convenção em referência para português. No entanto, encontram-se versões em língua inglesa e francesa em: https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence (acesso em 28.06.2024). Será tida em conta a versão em língua inglesa.
[6] São várias as técnicas e abordagens no domínio da IA, destacando-se: (i) abordagens de aprendizagem automática, incluindo aprendizagem supervisionada, não supervisionada e por reforço, utilizando uma grande variedade de métodos, designadamente aprendizagem profunda;(ii) abordagens baseadas na lógica e no conhecimento, nomeadamente representação do conhecimento, programação (lógica) indutiva, bases de conhecimento, motores de inferência e de dedução, sistemas de raciocínio (simbólico) e sistemas periciais; (iii) abordagens estatísticas, estimação de Bayes, métodos de pesquisa e otimização. Mais recentemente, é de ter em conta (iv) a IA generativa, que é um sistema de software que comunica em linguagem natural, capaz de dar respostas a perguntas relativamente complexas e de criar conteúdos (fornecer um texto, uma imagem ou um som) na sequência de uma pergunta ou de instruções formuladas (prompt), estas ferramentas incluem o OpenAI ChatGPT, o Copilot, o Gemini e o Bard. Nomeadamente, do ponto de vista da ciência da computação, entre nós, cf. Pedro Domingos, A Revolução do Algoritmo Mestre. Como a Inteligência Artificial está a mudar as nossas vidas, tradução de Francisco Silva Pereira, Manuscrito Editora, 2017; Arlindo Oliveira, Inteligência Artificial, Lisboa, FFMS, 2019, pp. 37 e ss.
[7] Da perspectiva da regulação jurídica no contexto público, cf. AA. VV., Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023; com incidência nos direitos humanos, entre muitos, cf. Filippo A. Raso, et al., “Artificial Intelligence & Human Rights: Opportunities & Risks” (September 25, 2018). Berkman Klein Center Research Publication No. 2018-6, http://dx.doi.org/10.2139/ssrn.3259344; com incidência no tópico da democracia, cf., entre outros, Paul Friedrich Nemitz, “Constitutional Democracy and Technology in the age of Artificial Intelligence” (August 18, 2018), Royal Society Philosophical Transactions, http://dx.doi.org/10.2139/ssrn.3234336; com incidência no Estado de Direito, cf. Aziz Z. Huq, "Artificial Intelligence and the Rule of Law", Public Law and Legal Theory Working Paper Series, No. 764 (2021).
[8] Sobre as “vagas” no uso de IA, cf. Tania Sourdin, Judges, Technology and Artificial Intelligence: The Artificial Judge, Cheltenham, UK, Edward Elgar, 2021, p. 18.
[9] Para algumas considerações sobre a regulação da IA noutras latitudes, cf., entre nós, cf. Pedro Correia / Bruno C. Garcia, “Inteligência Artificial e Políticas Públicas”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, pp. 18 e ss.
[10] O Conselho da Europa, enquanto organização europeia, apresenta objectivos essencialmente de carácter político, constituindo uma comunidade assente no triplo pilar da democracia parlamentar, do Estado de Direito e do respeito pelos direitos humanos. Para outros desenvolvimentos, cf. Ricardo Pedro, Responsabilidade civil do Estado pelo mau funcionamento da administração da justiça: fundamento, conceito e âmbito, Lisboa, Almedina, 2016, pp. 89 e ss.
[11] Voltaremos à regulação jurídica da IA por parte da pequena Europa mais adiante, cf. I.2.
[12] Veja-se a ISO/IEC 42001, a primeira norma internacional de sistema de gestão para Inteligência Artificial e em discussão. Sobre o tema, cf. Vicente Álvarez García, Jesús Tahirí Moreno, “La regulación de la inteligencia artificial en Europa a través de la técnica armonizadora del nuevo enfoque”, Revista General de Derecho Administrativo, ISSN-e 1696-9650, n.º 63, 2023.
[13] Cf., por exemplo, Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions - Building Trust in Human Centric Artificial Intelligence (COM(2019)168).
[14] Aprovado pelo Conselho Europeu, mas ainda não publicado oficialmente. Aguarda-se a assinatura pelos Presidentes do Parlamento Europeu e do Conselho, devendo, posteriormente, ser publicado no Jornal Oficial da União, entrando em vigor vinte dias após essa publicação. O novo regulamento será aplicável dois anos após a sua entrada em vigor, com algumas excepções para disposições específicas. Disponível em: https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/ (acesso em 1.07.2024). Uma versão em língua portuguesa encontra-se disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_PT.pdf (acesso em 1.07.2024).
[15] Também com relevância na regulação da IA, é de ter em conta o disposto no artigo 22.º do Regulamento Geral sobre a Proteção de Dados (RGPD) da União Europeia (UE), aprovado Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho de 27 de abril de 2016 relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE, que prevê o “direito de não ser sujeito a decisões automáticas e a tratamento automático” em sentido lato. Sobre este direito, cf. Stéphanie Laulhé Shaelou, Yulia Razmetaeva, "Challenges to Fundamental Human Rights in the Age of Artificial Intelligence Systems: Shaping the Digital Legal Order while Upholding Rule of Law Principles and European Values", ERA Forum, 2023, Vol. 24, pp. 581 e ss. https://doi.org/10.1007/s12027-023-00777-2
[16] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[17] Também nestes sentido, cf. Marten Breuer: The Council of Europe as an AI Standard Setter, VerfBlog, 2022/4/04, https://verfassungsblog.de/the-council-of-europe-as-an-ai-standard-setter/, DOI: 10.17176/20220405-011301-0.
[18] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[19] Alinhamento que se torna evidente do confronto da noção de IA oferecida pelo artigo 2.º da Convenção: «“artificial intelligence system” means a machine-based system that for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations or decisions that may influence physical or virtual environments. Different artificial intelligence systems vary in their levels of autonomy and adaptiveness after deployment» com a noção de IA prevista no artigo 3.º, n.º 1, do RIA: «‘AI system’ means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments». Defendendo o referido alinhamento por referência a uma abordagem assente no riscos dos sistemas de IA, cf. Marten Breuer: The Council of Europe as an AI Standard Setter, VerfBlog, 2022/4/04, https://verfassungsblog.de/the-council-of-europe-as-an-ai-standard-setter/, DOI: 10.17176/20220405-011301-0. Apesar de a Convenção não fazer um tratamento explícito assente numa abordadem de risco, mas antes implícito.
[20] Convenção para a Liberdade dos Direitos do Homem e das Liberdades Fundamentais assinada em Roma, em 4 de Novembro de 1950 e seus protocolos adicionais, vulgarmente designada por Convenção Europeia dos Direitos do Humanos, introduzida na ordem jurídica nacional pela Lei n.º 65/78, de 13 de outubro.
[21] Cf. supra nota 6.
[22] Sobre o tema da transparência no contexto da administração pública, cf. Ricardo Pedro, "Luzes e Sombras sobre a Transparência no Uso de Inteligência Artificial e de Algoritmos pela Administração Pública", in Em Nome da Transparência no Direito Administrativo: Um Diálogo Luso-Brasileiro, Carla Amado Gomes, Ricardo Pedro, Eurico Bitencourt Neto (Coord.), Lisboa, Almedina, 2023, pp. 423-458.
[23] Publicado no Diário da República, 2.ª Série, n.º 14, de 21 de janeiro de 2013. Veja-se também o Parecer n.º 6/2022, de 9 de maio de 2022 (disponível em: https://www.ministeriopublico.pt/pareceres-pgr).
[24] Disponível em: https://www.ministeriopublico.pt/pareceres-pgr
[25] Nas palavras de António Cândido, “(...) do aspecto juridico, unico da minha competência (...)” em Parecer de 1910, in António Cândido – Procurador Geral da Coroa e Fazenda, CEA, 2024, p. 84.
[26] Disponível em: https://www.ministeriopublico.pt/pareceres-pgr
[27] Tendo presente que não está em causa nenhuma norma imperativa de direito internacional geral (ius cogens),
não contendendo com o previsto no artigo 53.º, 2ª parte, da Convenção de Viena sobre o Direito dos Tratados, assinada a 23 de Maio de 1969, que prevê: «Para os efeitos da presente Convenção, uma norma aceite e reconhecida pela comunidade internacional dos Estados no seu todo como norma cuja derrogação não é permitida e que só pode ser modificada por uma nova norma de direito internacional geral com a mesma natureza», antes se está perante o cumprimento de obrigações internacionais, livre e autonomamente assumiveis pelo Estado Português.
[28] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 258 e ss.
[29] Cf., nomeadamente, Informação/Parecer n.º 70/1994, de 16 de fevereiro de 1995, Informação/Parecer n.º 36/1999, de 30 de agosto de 2002, segundo Informação/Parecer Complementar n.º 2/93, de 20 de abril de 2005, Informação/Parecer n.º 4/2008, de 1 de junho de 2011. Todos disponíveis em: https://www.ministeriopublico.pt/pareceres-pgr
[30] Cf. doutrina maioritária neste sentido, Jorge Miranda, Curso de Direito Internacional Público, 4.º ed., Principia, Parede, 2009, p. 171 e ss; André Gonçalves Pereira / Fausto de Quadros, Manual de Direito Internacional Público, 3ª ed., Almedina, Coimbra, 2005, p. 121.
[31] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 203 e ss.
[32] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, pp. 366 e ss. Sobre algumas das dimensões que incui esse conceito, cf. Jorge Miranda / Rui Medeiros (eds.), Constituição Portuguesa Anotada, tomo I, Coimbra Editora, Coimbra, 2006, pp. 60 e ss.
[33] Sobre a abertura desta cláusula, cf. Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, p. 366.
[34] L. Cotino Hueso, “El Convenio sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho del Consejo de Europa”, Revista Administración & Cidadanía, EGAP, 2024, em publicação, apud Jacques Ziller, The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments (April 29, 2024), CERIDAP - ISSN 2723-9195.
[35] Veja-se, a este propósito, o Parecer do Conselho Superior de Magistratura a propósito de uma “Proposta de Convenção sobre a Inteligência Artificial e os Direitos Humanos, a Democracia e o Estado de Direito”, p. 13 e 26. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.csm.org.pt/wp-content/uploads/2023/03/Parecer-sobre-Proposta-de-Convencao-sobre-inteligencia-artificial-direitos-humanos-democracia-e-Estado-de-Direito-Pedido-da-DGPJ.pdf (acesso em 2.07.2024).
[36] Destaques aditados.
[37] Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[38] Ricardo Pedro, "Artificial intelligence on public sector in Portugal: first legal approach", Juridical Tribune 13 2 (2023): http://dx.doi.org/10.24818/tbj/2023/13/2.01.
[39] A propósito da independência judicial, cf. Juan-Luis Gómez Colomer, El Juez-Robot: La Independencia Judicial en Peligro, Valencia, Tirant lo Blanch, 2023, pp. 169 e ss e 197 e ss.
[40] Cf. Jorge Reis Novais, "Estado de Direito", in Dicionário Jurídico da Administração Pública, IV, Lisboa, Edição de Autor, 1991, p. 251.
[41] Gomes Canotilho / Vital Moreira, Constituição da República Portuguesa Anotada, vol. I, Coimbra Ed.ª / Wolters Kluwer, Coimbra, 4.ª ed., 2007, p. 205.
[42] Acentuando esta preocupação no contexto da “justiça digital”, cf. Nuno Coelho (coordenador-geral), José Mouraz Lopes / Ana de Azevedo Coelho / José Joaquim Oliveira Martins / António João Latas / Sónia Moura (coordenadores temáticos), Agenda da Reforma da Justiça: Uma Reflexão Aberta e Alargada do Judiciário, Coimbra, Almedina, 2023, p. 316.
[43] J. J. Gomes Canotilho, Direito constitucional e teoria da Constituição, 7ª ed., Coimbra, Almedina, 2003, p. 285.
[44] J. J. Gomes Canotilho, Direito constitucional e teoria da Constituição, 7ª ed., Coimbra, Almedina, 2003, p. 243.
[45] Em sentido próximo, cf. L. Cotino Hueso, “El Convenio sobre inteligencia artificial, derechos humanos, democracia y Estado de Derecho del Consejo de Europa”, Revista Administración & Cidadanía, EGAP, 2024, em publicação, apud Jacques Ziller, “The Council of Europe Framework Convention on Artificial Intelligence vs. The EU Regulation: Two Quite Different Legal Instruments” (April 29, 2024), CERIDAP - ISSN 2723-9195.
[46] Entre muitos, cf. Pedro Correia / Bruno C. Garcia, Inteligência Artificial e Políticas Públicas”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, p. 36.
[47] Entre muitos, cf. Ricardo Pedro, "A Nova Litigância Judicial Causada por Algoritmos Digitais: de «Estado c. Loomis»; a «NCJM, Outros e FNV c. Estado»: Uso e/ou «Acesso» Público aos Algoritmos pelo Tribunal", in Anais - Enajus 2023, Brasil, 2023.
[48] Entre outros, cf. Ricardo Pedro / Inês Oliveira, "Inteligência Artificial: Privacidade e Transparência", Revista de Direito Público da Economia 84 (2023), pp. 199-212.
[49] Disponível em: https://www.incode2030.gov.pt/aip-2030/ (acesso em 1.07.2024).
[50] Aprovada pela Lei n.º 27/2021, de 17 de maio.
[51] Cf. José Melo Alexandrino, “Dez breves apontamentos sobre a carta portuguesa de direitos humanos na era digital”, p. 2. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.icjp.pt/sites/default/files/papers/dez_breves_apontamentos_sobre_a_carta_portuguesa.pdf (acesso em 2.07.2024). Destacando a inoperatividade das normas previstas no artigo 9.º da Carta, cf. Tiago Cabral, “Inteligência artificial e atividade judicial: análise das principais questões a nível de proteção de dados pessoais e do futuro regulamento da união europeia sobre IA”, in Inteligência Artificial no Contexto do Direito Público: Portugal e Brasil, Ricardo Pedro e Paulo Caliendo (Coord.), Lisboa, Almedina, 2023, p. 102. Também muitos críticos em relação à efectividade da Carta, cf. Nuno Coelho (coordenador-geral), José Mouraz Lopes / Ana de Azevedo Coelho / José Joaquim Oliveira Martins / António João Latas / Sónia Moura (coordenadores temáticos), Agenda da Reforma da Justiça: Uma Reflexão Aberta e Alargada do Judiciário, Coimbra, Almedina, 2023, p. 273.
[52] À data a remissão legal seria, em particular, para o disposto nos artigos 13.º, 14.º e 22.º do RGPD (cf. nota 15) e para o artigo 11.º da Lei n.º 59/2019, de 8 de agosto, que aprova as regras relativas ao tratamento de dados pessoais para efeitos de prevenção, deteção, investigação ou repressão de infrações penais ou de execução de sanções penais, transpondo a Diretiva (UE) 2016/680 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, que prevê: «1 - São proibidas as decisões tomadas exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produzam efeitos adversos na esfera jurídica do titular dos dados ou que o afetem de forma significativa, exceto quando autorizadas por lei, desde que seja previsto o direito de o titular dos dados obter a intervenção humana do responsável pelo tratamento. 2 - As decisões a que se refere o número anterior não podem basear-se nas categorias especiais de dados pessoais previstos no artigo 6.º». Norma que concorre já para o cumprimento das medidas impostas pela Convenção.
Legislação
CRP76 ART 9 ART18 ART20 ART111 ART216; CEDH; L 65/78 de 1978-10-13; l 27/2021 de 2021-05-17;
Referências Complementares
DIR CONST/DIR ADM /DIR DIGITAL
ISO/IEC 42001; NORMA INTERNAC DE SISTEMAS DE GESTÃO PARA A IA; COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, COUNCIL- BUILDING TRUST IN HUMAN CENTRIC ARTIFICIAL INTELLIGENCE (COM 2019-168) ; REG SOBRE INTELIGÊNCIA ARTIFICIAL; REG EU 2016/679 DO PE E CONSELHO DE 2016/04/27 SOBRE PROTEÇÃO DE DADOS; DIRETIVA (EU) 2016/680 DO PE E CONSELHO DE 2016-04-27;
ISO/IEC 42001; NORMA INTERNAC DE SISTEMAS DE GESTÃO PARA A IA; COMMUNICATION FROM THE COMMISSION TO THE EUROPEAN PARLIAMENT, COUNCIL- BUILDING TRUST IN HUMAN CENTRIC ARTIFICIAL INTELLIGENCE (COM 2019-168) ; REG SOBRE INTELIGÊNCIA ARTIFICIAL; REG EU 2016/679 DO PE E CONSELHO DE 2016/04/27 SOBRE PROTEÇÃO DE DADOS; DIRETIVA (EU) 2016/680 DO PE E CONSELHO DE 2016-04-27;