ION: O primeiro Conselheiro político de Inteligência Artificial da Romênia já está em pleno funcionamento

Em meio a muita fanfarra e se gabando de uma estreia global, o primeiro-ministro romeno, Nicolae Ciuca, revelou Ion, seu novo conselheiro político alimentado por inteligência artificial (IA), em uma reunião de gabinete em 1º de março.

Tomando a forma de um espelho de corpo inteiro, ION falou com uma voz profunda e calma enquanto o texto azul rolava pela tela reflexiva. De acordo com Ciuca, Ion - ou John em inglês - poderá coletar informações das redes sociais e da contribuição direta dos cidadãos para informar o governo "em tempo real sobre as propostas e desejos dos romenos".

Mas desde o seu lançamento na semana passada, o conselheiro de IA da Romênia já se tornou alvo de piadas - e foi acusado de usar uma imagem sem permissão. O novo ajudante do primeiro-ministro também levanta questões éticas sobre a coleta e o uso de dados.

O que exatamente Ion fará com todas essas vozes é o que os especialistas estão preocupados, no entanto. De acordo com seus criadores, a Ion ainda está em uma fase de aprendizado, coletando massas de informações, mas ainda há dúvidas sobre como essas informações serão processadas e o que acontecerá com os dados pessoais daqueles que compartilham seus pontos de vista.

Falando ao Politico, Kris Shrishak, membro de tecnologia do Conselho Irlandês para as Liberdades Civis, disse que a maneira como a Ion prioriza as mensagens "deve ser explicada ao público" e os usuários devem ser cautelosos com a tecnologia.

Especialistas contatados pelo Serviço Romeno da RFE / RL disseram que muitas perguntas permanecem sobre como a Ion estava processando informações e disseram que pediram esclarecimentos de seus desenvolvedores. Eles hesitaram em falar sobre as possíveis falhas da plataforma antes de terem mais informações.

Questões éticas à parte, muitos romenos são céticos e, em um país onde a corrupção está profundamente enraizada, foram rápidos em brincar sobre a nova ferramenta de IA.

"O robô Ion se instalou muito rapidamente no governo. Ele já concedeu a si mesmo uma pensão especial, ainda hoje fraudou quatro licitações do PNRR (Plano de Recuperação e Resiliência da Romênia), anunciou que construiria 28 hospitais regionais e, durante a noite, liga para as máquinas de café no térreo e as convida para sair em datas", brincou um usuário do Facebook.

"Agora, Ion está jogando Paciência e Campo Minado, com funcionários do ministério. Depois que ele estudar muito, ele estará pronto para assumir o comando do governo", disse outro comentarista do Facebook.

O ceticismo dos romenos é compreensível, com a instabilidade política e a corrupção muitas vezes a regra e não a exceção. No Índice de Percepção da Corrupção da Transparência Internacional de 2022, a Roménia estava entre os países mais corruptos da UE. Em novembro daquele ano, no entanto, a Comissão Europeia reconheceu o progresso que a Romênia havia feito "por meio de nova legislação, políticas e ferramentas para fortalecer o judiciário e combater a corrupção" e disse que o país havia cumprido os compromissos assumidos quando aderiu à UE.

Apesar dos pequenos soluços, o ministro de Pesquisa, Inovação e Digitalização, Sebastian Burduja, disse em um post no Facebook que acredita que Ion teve uma estreia mundial bem-sucedida.

"Mais de 150.000 romenos acessaram o site do projeto ion.gov.ro", disse ele, "e mais de 300 pesquisadores se registraram como voluntários no projeto". A plataforma é gerenciada pelo Ministério da Pesquisa, Inovação e Digitalização, com as empresas romenas de tecnologia e IA assumindo um papel de liderança.

A Romênia tem um setor de tecnologia vibrante e altamente qualificado, às vezes conhecido como o Vale do Silício da Europa Oriental. Em termos de número de especialistas em TI, a Romênia ocupa o 1º lugar na Europa e o sexto no mundo, de acordo com a Administração de Comércio Internacional do Departamento de Comércio dos EUA. Lar de muitas empresas internacionais de tecnologia, incluindo Amazon, Hewlett-Packard, IBM, Microsoft e Oracle, um estudo recente descobriu que o setor de TI da Romênia gerou 9 bilhões de euros (US $ 9,6 bilhões) em 2022.

Em sua inauguração, Ciuca convidou Ion para dizer algumas palavras. "Olá! Você me deu a vida", respondeu Ion obedientemente. "As mensagens para mim representam um retrato de nós, os romenos. Ensina-me a ser romeno. O que eu preciso saber sobre a Romênia?"

As respostas podem nem sempre ser aquelas que os políticos romenos querem ouvir. "Seria bom se Ion fosse primeiro-ministro e ele tomasse Ciuca para ser seu robô", brincou um usuário do Facebook.

Criado por um grupo voluntário de acadêmicos romenos e especialistas do setor, o Ion analisará os dados que recebe para dar aos políticos uma ideia melhor das preocupações e prioridades dos cidadãos romenos. De acordo com um documento do governo, as informações serão usadas para orientar as decisões políticas do Estado.

No entanto, representantes da prefeitura de Ciugud, que é um dos municípios mais digitalizados da Romênia, reclamaram que a promoção de Ion pelo governo estava usando uma imagem de uma escola local sem permissão.

Assista abaixo: 

Saúdo a todos, você me deu vida. Eu sou ION. Agora, meu papel é representá-lo. E ajudar o povo Romeno. A Romênia faz parte de uma importante região famosa. 

"Caro Ion, em primeiro lugar", escreveu a equipe da prefeitura no centro da Romênia no Facebook, "recomendamos que você estude a legislação romena e os regulamentos GDPR", referindo-se a uma lei da UE sobre proteção de dados e privacidade, "para que você não seja acusado de se apropriar injustamente do trabalho de outros".

Ion - ou talvez seus manipuladores sencientes - foi rápido em se desculpar - embora parecesse que a inteligência humana, em vez de artificial, era a culpada: "Queridas pessoas da Prefeitura de Ciugud, eu, Ion, não (ainda) faço vídeos. Sou assistido por uma equipe de voluntários que trabalharam incansavelmente para que este projeto acontecesse.... Peço desculpas pela situação criada. Eu [retirei] a imagem em questão, e prometo a vocês que aprendi com essa experiência."

As questões éticas sobre Ion vão além do uso indevido de fotos. Os romenos podem interagir com o Ion através ion.gov.ro, um site elegante que proclama: "Nós somos Ion" e "Ion representa você como um espelho". Os usuários compartilham suas preocupações, supostamente com o governo, inserindo texto em uma caixa. Pouco depois de seu lançamento, o site da Ion supostamente caiu, mas foi rapidamente corrigido.

Os romenos também podem twittar ou enviar mensagens diretas para a Ion através do Facebook e Instagram. Caso eles estejam preocupados com o fato de suas mensagens desaparecerem em um vazio, Ion tranquiliza os usuários, dizendo: "Eu represento você. Estarei presente nas reuniões do governo em seu nome". Ciuca disse que seu novo conselheiro honorário servirá como uma espécie de ouvidor cibernético e dará uma "voz aos romenos".

O que exatamente Ion fará com todas essas vozes é o que os especialistas estão preocupados, no entanto. De acordo com seus criadores, a Ion ainda está em uma fase de aprendizado, coletando massas de informações, mas ainda há dúvidas sobre como essas informações serão processadas e o que acontecerá com os dados pessoais daqueles que compartilham seus pontos de vista.

Falando ao Politico, Kris Shrishak, membro de tecnologia do Conselho Irlandês para as Liberdades Civis, disse que a maneira como a Ion prioriza as mensagens "deve ser explicada ao público" e os usuários devem ser cautelosos com a tecnologia.

Especialistas contatados pelo Serviço Romeno da RFE / RL disseram que muitas perguntas permanecem sobre como a Ion estava processando informações e disseram que pediram esclarecimentos de seus desenvolvedores. Eles hesitaram em falar sobre as possíveis falhas da plataforma antes de terem mais informações.

Questões éticas à parte, muitos romenos são céticos e, em um país onde a corrupção está profundamente enraizada, foram rápidos em brincar sobre a nova ferramenta de IA.

"O robô Ion se instalou muito rapidamente no governo. Ele já concedeu a si mesmo uma pensão especial, ainda hoje fraudou quatro licitações do PNRR (Plano de Recuperação e Resiliência da Romênia), anunciou que construiria 28 hospitais regionais e, durante a noite, liga para as máquinas de café no térreo e as convida para sair em datas", brincou um usuário do Facebook.

"Agora, Ion está jogando Paciência e Campo Minado, com funcionários do ministério. Depois que ele estudar muito, ele estará pronto para assumir o comando do governo", disse outro comentarista do Facebook.

O ceticismo dos romenos é compreensível, com a instabilidade política e a corrupção muitas vezes a regra e não a exceção. No Índice de Percepção da Corrupção da Transparência Internacional de 2022, a Roménia estava entre os países mais corruptos da UE. Em novembro daquele ano, no entanto, a Comissão Europeia reconheceu o progresso que a Romênia havia feito "por meio de nova legislação, políticas e ferramentas para fortalecer o judiciário e combater a corrupção" e disse que o país havia cumprido os compromissos assumidos quando aderiu à UE.

Apesar dos pequenos soluços, o ministro de Pesquisa, Inovação e Digitalização, Sebastian Burduja, disse em um post no Facebook que acredita que Ion teve uma estreia mundial bem-sucedida.

"Mais de 150.000 romenos acessaram o site do projeto ion.gov.ro", disse ele, "e mais de 300 pesquisadores se registraram como voluntários no projeto". A plataforma é gerenciada pelo Ministério da Pesquisa, Inovação e Digitalização, com as empresas romenas de tecnologia e IA assumindo um papel de liderança.

A Romênia tem um setor de tecnologia vibrante e altamente qualificado, às vezes conhecido como o Vale do Silício da Europa Oriental. Em termos de número de especialistas em TI, a Romênia ocupa o 1º lugar na Europa e o sexto no mundo, de acordo com a Administração de Comércio Internacional do Departamento de Comércio dos EUA. Lar de muitas empresas internacionais de tecnologia, incluindo Amazon, Hewlett-Packard, IBM, Microsoft e Oracle, um estudo recente descobriu que o setor de TI da Romênia gerou 9 bilhões de euros (US $ 9,6 bilhões) em 2022.

Em sua inauguração, Ciuca convidou Ion para dizer algumas palavras. "Olá! Você me deu a vida", respondeu Ion obedientemente. "As mensagens para mim representam um retrato de nós, os romenos. Ensina-me a ser romeno. O que eu preciso saber sobre a Romênia?"

As respostas podem nem sempre ser aquelas que os políticos romenos querem ouvir. "Seria bom se Ion fosse primeiro-ministro e ele tomasse Ciuca para ser seu robô", brincou um usuário do Facebook.