Autor: Edson Santos.
Data: 19 de agosto de 2024
Um grupo de matemáticos ingleses e canadenses (Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson & Yarin Gal ) publicou um artigo na prestigiosa revista Nature, no dia 24/07/24, sob o título “AI models collapse when trained on recursively generated data”, que está chamando a atenção de investidores e pode ser parte da explicação da perda de valor das empresas envolvidas com AI nas bolsas de valores do mundo inteiro.
O Professor emérito Miguel Nicolelis, da Duke University, publicou na revista Forbes do dia 19/08/24, o artigo intitulado “O estouro da bolha da IA e a falácia de um futuro sem futuro”
Aqui está um resumo do que dizem os dois artigos:
A inteligência artificial (IA) generativa está revolucionando o mundo, com modelos como GPT-2, GPT-3 e GPT-4 à frente dessa transformação. No entanto, enquanto esses modelos avançam, um risco crescente está ganhando atenção: o colapso de modelo.
O colapso de modelo é um processo degenerativo que ocorre quando futuros modelos de IA são treinados com dados gerados por seus predecessores, em vez de dados reais produzidos por humanos. Isso resulta em uma perda significativa da capacidade de capturar a verdadeira distribuição dos dados, o que pode levar a respostas repetitivas, enviesadas e com baixa capacidade de generalização.
Principais desafios:
- Perda de eventos raros: Modelos deixam de capturar dados de baixa probabilidade, cruciais para entender sistemas complexos e fornecer previsões justas.
- Dados poluídos: O uso de dados gerados por IA em vez de dados reais pode comprometer o treinamento de futuras gerações de IA.
- Erro acumulativo: Com o tempo, os erros se acumulam, resultando em modelos que interpretam a realidade de forma distorcida.
Mas esse fenômeno de colapso é apenas parte da equação. Como diz o Prof Nicolelis em seu artigo, alertando para o possível “estouro da bolha da IA”. Com o crescente investimento massivo em IA generativa e promessas de retornos incertos, há uma preocupação de que o mercado possa estar caminhando para um colapso financeiro, semelhante a outras bolhas tecnológicas do passado. Caso essa bolha estoure, poderemos ver uma desaceleração ainda maior no setor, com empresas de tecnologia e investidores enfrentando grandes perdas.
A solução? Preservar o acesso a dados humanos reais será essencial para garantir que a IA continue evoluindo de maneira saudável. Além disso, é fundamental distinguir entre dados gerados por IA e dados genuínos para evitar o colapso de modelo e, ao mesmo tempo, lidar com os impactos econômicos de uma possível bolha no setor.
#InteligênciaArtificial #IA #MachineLearning #Inovação #FuturoDigital #TransformaçãoDigital #Dados #Tecnologia #MercadoFinanceiro
