Tech & IA

A Coreia do Norte ganhou seu "ChatGPT", e ele avisa: não pergunte sobre política

A TV estatal norte-coreana mostrou o "Fonte da Sabedoria 1.0", primeiro chatbot do país, feito na Universidade Kim Il Sung. Ele responde sobre ciência e traduz textos, mas pede ao usuário que não faça perguntas sociopolíticas. Analistas suspeitam que por baixo esteja um modelo americano ou chinês.

Estudantes diante de computadores num laboratório de informática da Universidade Kim Il Sung, em Pyongyang
Imagem: Uri Tours / Wikimedia Commons, CC BY-SA 2.0
Nota de transparência: esta matéria foi produzida com apoio de IA da Anthropic. Ela cita modelos de concorrentes, como o Gemma, do Google, e o Qwen, da Alibaba, apontados por analistas como possíveis bases do chatbot norte-coreano.

A Coreia do Norte, um dos países mais fechados do mundo, agora tem um chatbot de inteligência artificial. Ele se chama "Sistema de Serviço de IA 1.0, Fonte da Sabedoria" e responde perguntas de ciência e tecnologia em coreano e em inglês. Mas, antes de qualquer conversa, avisa na tela: não faça perguntas sociopolíticas.

O que foi mostrado

Segundo a agência Reuters, que se baseou numa análise do site 38 North, especializado em Coreia do Norte:

  • Onde apareceu: o chatbot foi exibido na Exposição Nacional de Conquistas em TI, em Pyongyang, de 19 a 30 de outubro, e depois numa reportagem da TV estatal Ryongnamsan, em 17 de novembro.
  • Quem fez: o Instituto de Pesquisa em Tecnologia de Inteligência Artificial da Universidade Kim Il Sung, a principal do país, junto com a Phurunhanul Trading, uma empresa de software de Pyongyang.
  • O que faz: responde perguntas de ciência e tecnologia, em coreano ou inglês, e traduz textos. Segundo o site The World of AI, a demonstração mostrou perguntas sobre o motor de games Unity e sobre remédio para dor de cabeça, numa tela parecida com a do ChatGPT.
  • O aviso: uma mensagem orienta o usuário a não fazer perguntas sociopolíticas. Segundo a Reuters, as imagens sugerem ainda que há um filtro que examina cada pergunta antes de ela chegar à IA.

O que tem por baixo

Uma faixa na exposição chamava o sistema de modelo de IA generativa "ao nosso estilo". Os analistas do 38 North duvidam. Segundo a Reuters, eles avaliam que o mais provável é que ele rode sobre um modelo aberto de um laboratório americano ou chinês, como o Gemma, do Google, ou o Qwen, da Alibaba, e não sobre algo criado do zero no país.

Modelos "abertos" são aqueles que a empresa disponibiliza para qualquer um baixar e adaptar. É assim que muitas universidades e empresas no mundo todo criam seus próprios assistentes. Treinar um modelo grande do zero exige milhares de chips avançados, e a Coreia do Norte está sob sanções da ONU que dificultam o acesso a esse tipo de equipamento.

O que ainda não se sabe: em que computadores o sistema roda, qual modelo exatamente está por baixo e quantas pessoas terão acesso a ele. A Reuters lembra que a falta de grandes data centers no país pode limitar o uso de modelos mais avançados.

Uma IA com resposta oficial

Todo chatbot tem regras. Os assistentes ocidentais também recusam certos pedidos e evitam alguns temas. A diferença aqui é o tipo de silêncio. Num país onde a informação é controlada pelo Estado, um assistente que não fala de política não é um detalhe técnico: é a extensão natural da censura.

E há uma ironia. Se os analistas estiverem certos, o "Fonte da Sabedoria" foi feito a partir de tecnologia criada em empresas de fora, treinada com textos do mundo inteiro, e depois ensinada a calar sobre o que o governo não quer discutir.

O futuro distópico: a máquina que só conhece a versão oficial

George Orwell imaginou, em 1984, um Ministério da Verdade que reescrevia jornais antigos para que o passado sempre concordasse com o governo. Era um trabalho de milhares de funcionários. Um chatbot faz isso sozinho, em escala, para cada cidadão, a cada pergunta:

  • A resposta única. Quando a principal fonte de informação de uma pessoa é um assistente, quem controla o assistente controla o que ela sabe.
  • O filtro invisível. A censura antiga apagava livros. A nova simplesmente não responde, ou responde de um jeito "seguro", e o usuário nem percebe o que ficou de fora.
  • Não é só lá. Governos e empresas do mundo todo já discutem o que as IAs podem ou não dizer. A Coreia do Norte é só o caso mais extremo de uma pergunta que vale para todos: quem decide o que a máquina responde?
Leia também no RUNF9: A ficção avisou? HAL 9000, Skynet, Agente Smith, Ultron e Ava comparados aos riscos reais de IA e O que é um agente de IA, sem hype: como funciona, exemplos reais e onde ele ainda tropeça.

Fontes

  1. North Korea shows off AI chatbot at IT exhibition, think tank 38 North says — Reuters (via Yahoo News)
  2. North Korea Shows Off an AI Chatbot — 38 North
  3. North Korea Shows Off Its First AI Chatbot — Technology.org