HALL 9000 o Super-Computador do Filme “2001 Uma Odisséia no Espaço”
De Sāo Paulo, SP.
Em abril passado, apenas cinco meses após o lançamento para o público da primeira ferramenta de inteligência artificial (IA), escrevi um artigo intitulado “Sobre Deus, Inteligência Artificial e Uso do GPT-4 nas reuniões de Conselho dos Fundos de Pensāo”.
Ainda estávamos digerindo alegremente o significado do ChatGPT e tentando entender seus desdobramentos para nossas vidas, quando uma versão mais avançada ainda, o GPT-4, foi disponibilizada.
Milhões de pessoas ao redor do globo - até o garçom do Coco-Bambu de Jundiai com quem conversei - puderam experimentar em primeira mão as duas versões e perceber o quão impressionantes são esses sistemas. Muitos foram se dando conta de que esses softwares representam um ponto de inflexão, que causarão enorme turbulência no mercado de trabalho e vão chacoalhar todos os segmentos da economia.
A excitação inicial rapidamente deu lugar a preocupação e um debate furioso vem, desde então, questionando se devemos ou nāo dar um tempo e interromper o desenvolvimento da IA.
Hoje surgiu uma revelação impressionante, que nos faz refletir ainda mais sobre os limites entre o desenvolvimento de uma tecnologia revolucionária e uma potencial ameaça existencial para todos nós.
No coração dessa história está ela mesma, sim, a OpenAI, a organização que está na fronteira da P&D (Pesquisa e Desenvolvimento) da IA, de onde rumores de um avanço grandioso começam a ecoar bem além do Vale do Silício, em São Francisco
E se você acha que isso é teoria da conspiração, que os receios são exagerados, coisa e tal, o que pensaria se soubesse que a Reuters está reverberando esse medo?
Uma descoberta envolta em mistério: o surgimento do Q*
Eu havia sinalizado que não escreveria mais sobre a OpenAI, mas isso tinha a ver com governança, que foi meu foco no par de posts que publiquei essa semana e não propriamente a tecnologia de IA.
De acordo com um artigo publicado pela Reuters, o segredo desenvolvido pela OpenAI chama-se Q* (Q-Star, pronuncia-se Q-Estrela), foi o que precipitou a demissão de Sam Altman.
Poucos dias antes da demissão de Altman, pesquisadores enviaram uma carta para o conselho de administração alertando para uma nova descoberta que poderia “ameaçar a humanidade”. A fonte do artigo abaixo foi a Reuters, link: aqui.
A história se desenrola com Sam Altman, CEO da OpenAI, cujas mensagens enigmáticas no Reddit sugeriram que um desenvolvimento de proporções monumentais havia sido obtido – a conquista da Inteligência Artificial Geral (AGI).
Inteligência artificial geral (AGI) – do inglês: Artificial General Intelligence – é a capacidade hipotética de um agente inteligente compreender ou aprender qualquer tarefa intelectual que um ser humano é capaz. É o objetivo principal de algumas pesquisas sobre IA e um tópico comum em ficção cientifica. Uma pesquisa de 2020 identificou 72 projetos ativos de P&D tentando obter AGI, espalhados por 37 países. AGI também pode ser referida como “IA forte”, “IA completa” ou “ação inteligente geral” (embora fontes acadêmicas reservem o termo "IA forte" para programas de computador que experimentam “senciência”, consciência ou tenham uma mente no mesmo sentido que as pessoas.
Essa alegação de Altman, de que a AGI teria sido atingida internamente na OpenAI, foi rapidamente apagada do Reddit, alimentando um turbilhão de intrigas. Foi em meio a esse tumulto todo, que emergiu das profundezas dos laboratórios secretos da OpenAI o nome Q* — um projeto envolto em mistério, com implicações tão profundas que abalaram os alicerces da própria organização.
Diz-se que o Q* representa um salto na evolução da IA transcendendo muito além das capacidades de modelos como o GPT-4. Um dia antes de Altman ser ejetado, ele deu uma declaração de arrepiar. Essa declaraçāo (video no Tweet abaixo) está dentro das linha do tempo da recente descoberta do Q*, inferindo que ele estava se referindo ao projeto do Q*.
“Isso que construímos é uma ferramenta ou uma criatura?”
Video do Tweet acima: link
O véu se desfez: capacidades e preocupações com o Q*
De acordo com insiders, o Q* não é apenas mais uma melhoria incremental e sim uma quebra de paradigma. Os rumores dão conta de que foi atingido algo antes considerado inatingível – um nível de raciocínio e generalização que se aproxima da AGI.
Esse desenvolvimento, supostamente, teria provocado uma onda de preocupações dentro a OpenAI que teria levado a medidas drásticas, culminando com a mudança na liderança da empresa e debates intensos sobre a segurança da IA.
A IA que aprende por conta própria, sem os dados criados por humanos
Somando-se à mística do poder do Q* está sua suposta capacidade de gerar dados sintéticos para treinar futuros modelos de IA, um feito que desafia o próprio conceito de aprendizado de máquina (em inglês: machine learning) como hoje conhecemos.
Essa habilidade sugere um ciclo autoperpetuado de desenvolvimento da IA que não estaria mais sujeito aos limites dos dados gerados pelos seres humanos.
Video do tweet acima: link
Efeito cascata: a reação e as especulações do setor
As reverberações do desenvolvimento do projeto Q* não passaram desapercebidas. Figuras como Elon Musk (tweet abaixo) e veteranos da indústria de IA se pronunciaram, especulando sobre a natureza e potenciais consequências desse avanço.
A comunidade de IA está alerta, observando de perto, enquanto a OpenAI navega por águas desconhecidas e não exploradas.
Poder, responsabilidade e o desconhecido
A história do Q* e da OpenAI é uma parábola moderna sobre equilíbrio entre poder e responsabilidade na era dos avanços tecnológicos. Levanta questões fundamentais sobre a natureza da IA — seria meramente uma ferramenta ou estaria evoluindo para uma entidade que vai além do nosso controle?
Q* é um lembrete gritante de que com grande poder vem grande responsabilidade. No reino da IA as apostas estão mais altas do que nunca. Na medida em que a história do Q* vai se desenrolando, vamos testemunhando a complexa intersecção entre inovação, ética e a busca incessante do conhecimento da era digital.
Se quiser ficar com mais uma pulga atras da orelha, leia também meu artigo de uma semana atrás: "Algo esta acontecendo: NASA desliga seu computador quântico e EUA anunciam maior regulação de IA hoje".
As coisas estāo acontecendo rápido, muito rápido, rápido demais.
Grande abraço,
Eder.
Fonte: “Did OpenAI Achieve AGI With Q*?”, escrito por The Pareto Investor
Nenhum comentário:
Postar um comentário