Quando os modelos de Inteligência Artificial afirmam “estar pensando” sobre um problema, o que fazem é apenas gerar probabilisticamente mais texto com base em valores intermediários de processamento, não necessariamente relatando os processos computacionais usados para chegar à resposta.
Ilustração: Business Wire via AP
Ao projetar capacidades humanas em sistemas como o ChatGPT, corremos riscos diversos. Entender como essas tecnologias funcionam é essencial para seu uso responsável
Relação do Brasil com as Big Techs detentoras das tecnologias de IA está fazendo o país pagar caro por sistemas que não desenvolvemos, que não controlamos e que, muitas vezes, não respondem aos nossos interesses sociais, econômicos ou estratégicos.
Imagem: Envato AI
Ergon Cugler, Instituto Brasileiro de Informação em Ciência e Tecnologia (Ibict)
Plataformas como OpenAI, Meta, Google e Microsoft tomam decisões constantes sobre o que seus sistemas podem ou não fazer, com base em critérios opacos
O aprendizado por reforço, uma área da IA que ensina máquinas a aprenderem com a própria experiência, é o campo ao qual se dedicaram os cientistas Andrew Barto e Richard Sutton.
Fonte: Freepik.
Os cientistas Andrew Barto e Richard Sutton não são conhecidos do grande público, mas receberam este ano, o “Nobel da Computação” por pavimentarem o caminho do desenvolvimento de robôs, veículos autônomos e outras ferramentas de IA
Abordagem concentrada no comportamento - como as pessoas interagem, e não no que elas dizem, ou nas suas conexões - ajuda a revelar usuários mal intencionados e é mais difícil de ser driblada com estratégias como uso de palavras codificadas.
ginger_polina_bublik/Shutterstock
Marian-Andrei Rizoiu, University of Technology Sydney; Lanqin Yuan, University of Technology Sydney, and Philipp Schneider, EPFL – École Polytechnique Fédérale de Lausanne – Swiss Federal Institute of Technology in Lausanne
Um estudo de aprendizado de máquina com milhões de publicações online encontrou cinco tipos básicos de usuários, incluindo os “discordantes”, que gostam principalmente de contradizer os outros.
Ensinar IA a todos democratiza o acesso ao conhecimento, preparando alunos para serem protagonistas — e não apenas consumidores — da inovação.
Ilustração: Getty Images
O conteúdo visual, incluindo imagens manipuladas, é um elemento básico da propaganda e das mensagens políticas. A análise de IA mostra que um aumento desses memes pode preceder a eclosão da violência em larga escala.
O que chamamos de IA hoje não é mais do que uma máquina estatística, um papagaio digital que não tem compreensão, não tem consciência e nenhum conhecimento em qualquer sentido real, e apresentá-la como se fosse humana é perigoso, porque nada é mais perigoso do que uma ilusão convincente.
Kundra/Shutterstock
A IA pode parecer humana, mas é uma ilusão que precisamos combater
Até as empresas de tecnologia já começaram a reduzir suas equipes por causa da IA, aproveitando também essas demissões como sinalizações para governos e o mercado. Mais de 95 mil trabalhadores de empresas de tecnologia perderam seus empregos em 2024 nos EUA.
Ilustração: VichanChairat/DigitalVision Vectors via Getty Images
Setores baseados no conhecimento, como finanças, serviços jurídicos e atendimento ao cliente, já estão eliminando cargos de entrada à medida que a IA automatiza tarefas rotineiras
Hayao Miyazaki, artista e fundador do Studio Ghibli: nova atualização do ChatGPT permite a geração de imagens ao estilo mundialmente famoso de seu estúdio de animação e virou onda nas redes sociais.
Chris Pizzello/AP
O fundador do Studio Ghibli, Hayao Miyazaki, já criticou a IA anteriormente. Agora, o ChatGPT está gerando imagens em seu estilo de animação mundialmente famoso.
O que sai da “mente” de uma IA pode, às vezes, estar fora de cogitação: ao tentar preencher lacunas nos dados ou produzir respostas coerentes, as IAs podem inventar informações.
Gremlin/iStock via Getty Images
Quando os sistemas de IA tentam preencher as lacunas em seus dados de treinamento, os resultados podem ser extremamente errados: falsidades e informações incorretas que os pesquisadores chamam de ‘alucinações’.
IA na academia: comparação entre sete ferramentas de pesquisa profunda baseadas em IA generativa realizada pelo autor mostraram inconsistências como falta de contextualização, uso inapropriado de fontes e poucas referências a fontes acadêmicas, mesmo quando isso era solicitado pelo prompt.
Ociacia/Shutterstock
Avaliação de sete ferramentas de pesquisa profunda constatou que ainda é preciso entender melhor como otimizar o processo sem perder de vista princípios fundamentais da integridade científica contemporânea
A recém-eleita presidenta do México, Claudia Sheinbaum, sofreu com ataques de fake news gerados por Inteligência Artificial durante a campanha eleitoral no
ano passado.
AP Photo/Eduardo Verdugo
A eficiência e a popularização das tecnologias digitais ampliou o alcance de discursos políticos sem pudor ético, influenciou novos tipos de comportamento e criou dúvidas falsas sobre descobertas da ciência
Caixa preta: A complexidade cada vez maior do funcionamento das novas tecnologias de Inteligência Artificial começa a ser tão difícil de ser rastreada pela inteligência humana que levanta questões sobre a confiabilidade do conhecimento gerado por essas ferramentas.
Yuichiro Chino/Getty Images
Reflexões sobre a origem e a confiabilidade do conhecimento gerado por IA não dizem respeito apenas às implicações éticas das Big Techs, mas também à conduta moral de quem é comprometido com a legitimidade da pesquisa científica
Embora tenham sido anunciado como tal, o revoluciomnário programa chinês de Inteligência Artificial não se qualifica como software de código aberto. Quando um programa não pode ser lido, compreendido ou modificado, ele não é útil para o avanço da pesquisa científica
O Brasil tem potencial para se destacar no cenário do desenvolvimento de tecnologias de ponta de IA, mas ainda depende de tecnologias estrangeiras para quase tudo que a envolve.
Reprodução de arte feita por IA
Muito mais que uma questão econômica, a escolha da tecnologia de IA a ser usada influencia o acesso à informação, a segurança digital e até as relações de poder dentro da sociedade
Ao comparar a inteligência artificial com a natural, a abordagem pode ser “filosófica” ou “funcional”, mas a grande questão é a consciência artificial e a possibilidade de que surja de forma espontânea, evento que o cientista da computação Ray Kurzweil cunhou como “singularidade”
Stokkete/Shutterstock
Após décadas de desenvolvimento da IA, estamos mais próximos de viver com inteligências semelhantes às humanas? Será que elas sonharão com ovelhas elétricas?
Antes de abalar o mundo com a sua IA mais leve, barata e eficiente que os produtos de gigantes da tecnologia, a pequena DeepSeek acostumou-se a compartilhar todas as inovações que desenvolveu na área, e que serviram para pavimentar o caminho deles até a posição em que se encontram hoje.
AP Photo/Andy Wong
Sucesso da startup chinesa no mundo da IA não foi repentino. Desde 2023, a empresa publica trabalhos relevantes para a área de IA com uma frequência impressionante.
a corrida da IA não se trata apenas de lucros corporativos. À medida que o investimento flui para a IA, isso significa que a inovação pode se tornar mais avançada e acessível - e de forma muito mais acelerada do que esperávamos anteriormente.
Koshiro K/Shutterstock
Já é inevitável: essa batalha tecnológica terá um impacto enorme em nossas vidas
Recém-lançada, a Inteligência Articial chinesa DeepSeek consegue funcionar exatamente como o ChatGPT - ou até melhor - com muito menos complexidade de hardware, menos custos e oferecendo seus serviços de graça e com código aberto.
Como a IA chinesa recém-lançada consegue funcionar exatamente como o ChatGPT - e até melhor - com muito menos complexidade de hardware, menos custos, oferecendo seus serviços de graça e com código aberto?