12/02/2025
Como humanos e IA podem se complementar no local de trabalho?
11/01/2025
Os impactos da IA sobre a economia
15/09/2024
As Discussões sobre Inteligência Artificial (IA) e Seus Limites Éticos
O novo conteúdo do trabalho na Era Digital: Transformações, Desafios e Oportunidades
10/08/2024
Inteligência humana semelhante à da IA?
Dois desses novos empregos são particularmente intrigantes: Engenheiro de prompt e Psicoterapeuta de IA. IA generativa e os granfes modelos de linguagem (LLM) são um novo tipo de inteligência alienígena semelhante à humana que até mesmo as pessoas que os constroem não entendem realmente como funcionam. Pesquisadores estão tentando desbloquear a caixa-preta da IA na esperança de entender como trabalhar melhor com essas tecnologias poderosas.
Deixe-me discutir cada um desses dois trabalhos.
Engenheiro de Prompt
A Wikipédia define engenharia de prompt como “o processo de estruturação de texto que pode ser interpretado e compreendido por um modelo de IA generativo. Um prompt é um texto em linguagem natural que descreve a tarefa que uma IA deve executar. … A engenharia de prompt envolve a formulação de uma consulta, a especificação de um estilo, o fornecimento de contexto ou a atribuição de uma função à IA, como "Falar como um nativo de francês".
Engenheiros de Prompt exigem múltiplas habilidades, disse o artigo do WSJ. “Essa Engenharia de Prompt é uma classe emergente de trabalho que está em algum lugar entre programação e gerenciamento. Em vez de usar linguagens de programação como Python ou Java, engenheiros de prompt soletrarão suas instruções para sistemas de IA, criando novas maneiras de aproveitar o poder dos sistemas de IA.”
Os linguistas há muito estudam a natureza inerente da compreensão da linguagem natural (NLU). Em um artigo de 2020 “Em direção à NLU: formas de compreensão na era dos dados” dos professores de linguística Emiliy Bender e Alexander Koller. Alegações em publicações acadêmicas e populares que mostram que os modelos de IA realmente entendem ou compreendem a linguagem natural, são alegações exageradas causadas por um mal-entendido da relação entre forma linguística e significado. O artigo observou que, embora os LLMs sejam ferramentas de linguagem inovadoras — como corretores ortográficos ou processadores de texto altamente avançados — o artigo rejeitou as alegações de que eles têm a capacidade de raciocinar e entender o significado da linguagem que estão gerando.
Os LLMs foram treinados com grandes quantidades de texto e fala, dos quais eles são capazes de aprender a sintaxe ou forma expressiva da linguagem, como palavras, morfemas e regras gramaticais se combinam para formar frases e sentenças. No entanto, os LLMs são incapazes de capturar a intenção comunicativa, — o propósito pretendido a ser alcançado por meio da linguagem, ou seja, transmitir informações a outra pessoa. Transmitir significado por meio da linguagem e evocar a intenção de comunicação no leitor ou ouvinte requer um conhecimento do mundo físico e social ao nosso redor. Apesar de sua crescente fluência, o texto gerado por um LLM ou chatbot não pode carregar nenhuma intenção comunicativa, modelo do mundo ou modelo do estado de espírito do leitor porque não é para isso que eles foram treinados.
Em “Dissociating Language and Thought in Large Language Models: a Cognitive Perspective”, um artigo publicado em janeiro de 2023, que explica como a ciência cognitiva e a neurociência podem nos ajudar a entender as capacidades potenciais dos LLMs e chatbots. O artigo aponta que há uma relação estreita entre linguagem e pensamento em humanos. Quando ouvimos ou lemos uma frase, normalmente presumimos que ela foi produzida por uma pessoa racional com base em seu conhecimento do mundo real, pensamento crítico e habilidades de raciocínio. Geralmente vemos as declarações de outras pessoas não apenas como um reflexo de suas habilidades linguísticas, mas como uma janela para suas mentes.
O artigo explicou a diferença entre a competência linguística necessária para produzir e compreender a linguagem e as funções cognitivas não específicas da linguagem que são necessárias quando usamos a linguagem em situações concretas do mundo real. A pesquisa sobre a arquitetura funcional do cérebro humano estabeleceu que "a maquinaria dedicada ao processamento da linguagem é separada da maquinaria responsável pela memória, raciocínio e habilidades sociais". Com base nessa distinção, LLMs e chatbots são muito promissores em uma parte da caixa de ferramentas cognitiva humana — o processamento formal da linguagem — mas ficam aquém, pelo menos até agora, em sua capacidade de modelar o pensamento humano.
A engenharia de prompts é agora considerada um dos empregos de tecnologia mais procurados, pois as empresas buscam obter o máximo dos LLMs, evitando resultados incorretos ou inapropriados. Como o artigo do WSJ observou: “Os melhores engenheiros de prompts são pessoas que podem dar instruções muito claras, mas que também entendem os princípios da codificação. Em outras palavras, eles geralmente são ótimos gerentes técnicos. Exceto com engenheiros de prompts, não é um funcionário que eles estão gerenciando, — é uma IA.”
Psicoterapeuta de IA
O que significa ser um psicoterapeuta de IA? De acordo com o artigo do WSJ : “Psicoterapeutas de IA avaliarão a criação de um modelo, examinando seus dados de treinamento em busca de erros e fontes de viés.”
“Como se preocupar sabiamente com a inteligência artificial” foi o tema da edição de 22 de abril de 2023 do The Economist, com vários artigos sobre o assunto. “O rápido progresso na IA está despertando medo e também entusiasmo. Quão preocupado você deveria estar?”, perguntou o artigo da edição. Os defensores da IA argumentam que a IA surgiu como uma das, se não a principal tecnologia definidora do século XXI, com o potencial de nos ajudar a abordar e resolver grandes problemas. Mas outros acreditam que uma IA superinteligente, descontrolada e de rápido avanço representa uma ameaça para a humanidade.
A edição do The Economist incluiu também o ensaio, “Como a IA poderia mudar a computação, a cultura e o curso da história”. O ensaio observa que: “Uma tecnologia não precisa acabar com o mundo para mudá-lo”. Para nos dar uma ideia das transformações que mudam o mundo que podemos esperar da IA, o ensaio cita três fatos históricos: o navegador, a imprensa e as teorias psicanalíticas de Sigmund Freud .
A analogia da prensa tipográfica é bastante direta. A prensa tipográfica , inventada por Johannes Gutenberg por volta de 1440, acelerou a disseminação do conhecimento e da alfabetização na Europa renascentista e influenciou e revolucionou a vida nos séculos seguintes. A própria amplitude da prensa tipográfica torna a comparação com os LLMs quase inevitável. Os livros impressos expandiram o conhecimento ao qual todos nós tivemos acesso, ajudando-nos a gerar mais conhecimento e novos tipos de disciplinas. Da mesma forma, os LLMs treinados em um determinado corpo de conhecimento podem derivar e gerar todos os tipos de conhecimento adicional.
A analogia do navegador é igualmente direta. A internet e a World Wide Web possibilitaram o acesso a uma enorme variedade de informações e aplicativos digitais para qualquer pessoa com um computador pessoal e uma conexão com a internet. O navegador logo se tornou a porta de entrada para a Web. Empresas e instituições do setor público puderam, portanto, se envolver em suas atividades principais de uma forma muito mais produtiva. Chatbots como o ChatGPT podem agora se tornar um novo tipo de interface de conversação para informações e aplicativos.
A terceira grande mudança discutida no ensaio, as teorias psicanalíticas de Freud, requer mais explicações. “Aceitar que LLMs aparentemente humanos são cálculos, estatísticas e nada mais poderia influenciar como as pessoas pensam sobre si mesmas.” Mas até agora, não somos nem mestres dos LLMs e chatbots que criamos. Pesquisadores de IA podem explicar como os algoritmos matemáticos subjacentes às redes neurais profundas funcionam, mas são incapazes de explicar, em termos que um humano geralmente entenderia, como esses algoritmos chegaram a uma resposta específica para nossas perguntas. Em outras palavras, realmente não sabemos como eles funcionam.
“Isso levanta duas preocupações: 1) que as IAs têm algum tipo de funcionamento interno que os cientistas ainda não conseguem perceber; ou 2) que é possível passar por humano no mundo social sem qualquer tipo de compreensão interna.”
Freud percebeu que a mente consciente não era o único condutor dos comportamentos humanos. Havia outro condutor, a mente inconsciente , que existe abaixo da superfície da consciência consciente e que pode exercer uma forte influência sobre nossas emoções e ações gerais. Não é preciso subscrever as explicações freudianas do comportamento humano para concordar que as pessoas fazem coisas das quais não têm consciência.
Embora a mente inconsciente possa não ser um modelo satisfatório para ajudar a explicar como os LLMs funcionam, a sensação de que há algo abaixo da superfície da IA que precisa ser compreendida é bem poderosa. Mas, se nossos LLMs e chatbots sem vida continuarem a exibir comportamentos cada vez mais humanos, e ainda não entendermos os motivadores desse comportamento, "então será hora de fazer pela IA algo do que Freud pensou que estava fazendo pelos humanos".
Psicoterapeutas de IA “podem colocar modelos de IA no sofá, sondando-os com perguntas de teste”, disse o artigo do WSJ . “Empresas como IBM, Google e Microsoft estão correndo para lançar novas ferramentas que quantificam e mapeiam os processos de pensamento de uma IA, mas, como os testes de Rorschach, elas exigem que as pessoas interpretem seus resultados. Entender o raciocínio de uma IA será apenas metade do trabalho; ... A outra metade estará aprovando a aptidão mental de um modelo para a tarefa em questão”, porque, como o artigo nos lembra: “Não importa o quão sofisticados os modelos e sistemas se tornem, ... nós, como humanos, somos os responsáveis finais pelos resultados do uso desses sistemas.”
03/08/2024
A IA pode acabar com a desigualdade nos mercados de trabalho?
Nas últimas três décadas, empregos que exigem qualificação especializada e habilidades complexas de comunicação aumentaram significativamente, com os ganhos dos trabalhadores com ensino superior, necessários para preencher tais empregos, aumentando de forma constante. Por outro lado, as oportunidades e os salários diminuíram para empregos de qualificação média e e para empregos administrativos, cujas carreiras foram impactadas pela automação.
“Mas o novo tipo de automação — sistemas de inteligência artificial chamados grandes modelos de linguagem, como ChatGPT e Gemini do Google — estão mudando isso”, observou o artigo do NY Times, “In Reversal Because of AI, Office Jobs Are Now More at Risk”. “Essas ferramentas podem processar e sintetizar informações rapidamente e gerar novos conteúdos. Os empregos mais expostos à automação, são os de escritório, que exigem poucas habilidades cognitivas, criatividade e níveis de educação. Os trabalhadores mais afetados são os mais bem pagos e há um pouco mais de probabilidade de serem mulheres, segundo pesquisas.”
O artigo do NYT faz referência a outros dois artigos que analisaram as ocupações mais expostas à IA, um do Pew Research Center e o outro do Goldman Sachs Research .
“Historicamente, mudanças na tecnologia automatizaram tarefas físicas, como as realizadas em fábricas”, disse o relatório Pew, “Quais trabalhadores dos EUA estão mais expostos à IA em seus empregos?”
“A IA funciona como o poder cerebral humano e, à medida que seu alcance cresce, isso levanta questões sobre seu impacto em empregos médios e em empregos de alto nível – questões que o Pew Research Center busca abordar em uma nova análise, considerando dados governamentais.” A análise Pew é baseada em dados sobre 41 atividades de trabalho essenciais em 873 ocupações da Rede de Informações Ocupacionais do Departamento de Trabalho dos EUA (O*NET)
Aqui está um resumo das principais conclusões do relatório Pew.
- Em 2022, cerca de 20% dos trabalhadores americanos estavam em empregos com alta exposição à IA — ou seja, atividades que podem ser substituídas ou auxiliadas pela IA — enquanto 23% dos trabalhadores estavam em empregos com menos expostas à IA.
- Empregos com alta exposição à IA incluem análise de orçamento, preparadores de impostos, redatores técnicos e desenvolvedores web; os empregos de média exposição incluem diretores executivos, veterinários, designers de interiores e gerentes de vendas; e os empregos de baixa exposição incluem cuidadores de crianças, lavadores de pratos, barbeiros e bombeiros.
- Empregos com alto nível de exposição à IA tendem a estar em áreas com salários mais altos; trabalhadores em empregos mais expostos ganhavam US$ 33 por hora, em média, em comparação com US$ 20 em empregos com menor exposição.
- Trabalhadores com bacharelado ou mais (27%) têm mais que o dobro de probabilidade de enfrentar alta exposição à IA do que aqueles com apenas o ensino médio (12%).
- A maioria dos trabalhadores provavelmente estará em empregos com menos exposição à IA do que em empregos com mais exposição, especialmente homens, trabalhadores mais jovens, aqueles com menos educação formal e trabalhadores negros e hispânicos.
- Uma parcela maior de mulheres (21%) do que de homens (17%) provavelmente será mais exposta à IA, devido às diferenças nos tipos de empregos ocupados por homens e mulheres.
- Trabalhadores americanos em setores mais expostos não sentem que seus empregos estejam em risco; por exemplo, cerca de 1/3 dos trabalhadores em tecnologia da informação dizem que a IA os ajudará mais do que os prejudicará, em comparação com 11% que dizem que ela prejudicará mais do que ajudará.
Vamos agora olhar para o relatório do Goldman Sachs, “Os efeitos potencialmente grandes da inteligência artificial no crescimento econômico”.
“Apesar das incertezas em torno do potencial da IA, ela reflete um grande avanço com efeitos potencialmente grandes”, disse o relatório.
“A capacidade da IA de (1) gerar novo conteúdo indistinguível da produção criada por humanos e (2) quebrar barreiras de comunicação entre humanos e máquinas reflete um grande avanço com efeitos macroeconômicos potencialmente grandes”.
Para avaliar a parcela do trabalho exposto à automação baseada em IA, o relatório do Goldman Sachs analisou dados sobre mais de 900 ocupações nos EUA do banco de dados O*NET , bem como dados sobre mais de 2.000 ocupações do banco de dados ESCO da Comissão Europeia .
“Se a IA entregar suas capacidades prometidas, o mercado de trabalho pode enfrentar uma grave interrupção. Usando dados sobre tarefas ocupacionais nos EUA e na Europa, descobriu-se que, cerca de 2/3 dos empregos estão expostos a algum grau de automação de IA, e que a IA pode substituir até 1/4 do trabalho atual.”
Estimativas globais sugerem que a IA pode ter um impacto em 18% dos empregos ao redor do mundo, o equivalente a 300 milhões de empregos de tempo integral.
Aqui estão algumas das principais conclusões do relatório sobre o impacto da IA no trabalho:
- Silvicultura e pesca (21%); e ocupações nas forças armadas (22%).
- A maioria dos empregos e indústrias estão apenas parcialmente expostos à automação e, portanto, têm mais probabilidade de serem complementados do que substituídos pela IA: espera-se que 63% dos empregos atuais nos EUA sejam complementados, 7% sejam substituídos e 30% não sejam afetados.
- No geral, espera-se que a IA melhore a produtividade da grande maioria das ocupações; o maior impacto da automação da IA é esperado nos campos jurídico e administrativo; e o menor impacto é esperado em trabalhos manuais e ao ar livre.
A IA tem o potencial para um boom na produtividade do trabalho e um aumento significativo na produção global. “[A] maioria dos trabalhadores está empregada em ocupações que são parcialmente expostas à automação da IA e, após a adoção da IA, provavelmente aplicarão pelo menos parte de sua capacidade em atividades produtivas que aumentam a produção.”
Além disso, “muitos trabalhadores que são deslocados pela automação da IA acabarão sendo reempregados — e, portanto, aumentarão a produção total — em novas ocupações que surgem diretamente da adoção da IA ou em resposta ao maior nível de demanda agregada e de mão de obra” gerado pelo aumento da produtividade da IA.
O momento de um boom de produtividade do trabalho de IA é difícil de prever, mas, com base no histórico de tecnologias transformadoras anteriores, o boom geralmente começa cerca de duas décadas após o avanço tecnológico, quando cerca de metade das empresas dos EUA adotaram a tecnologia. Mas o boom de produtividade do trabalho de IA pode acontecer mais rápido porque grande parte da infraestrutura necessária para adquirir e começar a usar novas tecnologias digitais já está em uso, incluindo a internet, computação em nuvem, software como serviço, lojas de aplicativos e outros avanços. “Nossa principal conclusão é que o impulso final para a produtividade do trabalho é incerto, mas na maioria dos cenários, permaneceria economicamente significativo”, disse o relatório do Goldman Sachs em conclusão.
O artigo do NY Times ainda discutiu mais implicações da IA, que, em vez de substituir cerca de 2/3 das ocupações dos EUA, de repente, muitos trabalhadores terão um assistente de IA ajudando-os a aprender novas habilidades e progredir mais rápido em suas carreiras. O artigo faz referência a outros dois documentos que citam que a IA é particularmente útil para funcionários juniores.
Generative AI at Work, um artigo do professor de Stanford Erik Brynjolfsson e seus colaboradores, descobriu que usar uma ferramenta baseada em AI aumentou a produtividade geral dos agentes de suporte ao cliente em 14% em média. O maior impacto, cerca de 35%, foi em trabalhadores novatos e pouco qualificados, enquanto o impacto em trabalhadores experientes e altamente qualificados foi mínimo.
O segundo artigo, “Evidência Experimental sobre os Efeitos de Produtividade da Inteligência Artificial,” foi baseado em um teste randômico com 444 profissionais de nível médio com ensino superior para avaliar o impacto da produtividade da IA em tarefas em áreas como relações humanas e marketing. Seus resultados mostraram que o ChatGPT aumentou substancialmente a produtividade média daqueles que usaram a tecnologia em 37%. Além disso, o uso do ChatGPT reduziu a desigualdade ao beneficiar mais os trabalhadores de baixa qualificação do que os de alta qualificação.
“No último setor de automação analisado, o setor da indústria, houve aumento da desigualdade de renda ao privar trabalhadores sem ensino universitário de acesso a empregos de melhor remuneração, mostrou a pesquisa”, disse o artigo do NYT em conclusão.
Este último trecho é a resposta do MS Copilot à pergunta: "A IA pode causar desemprego no mundo?"
Sim, a inteligência artificial (IA) tem o potencial de afetar significativamente o mercado de trabalho em todo o mundo. Economistas do Goldman Sachs estimam que até 300 milhões de empregos em tempo integral podem ser automatizados de alguma forma pela nova onda de IA, que gerou plataformas como o ChatGPT1. Além disso, o Fundo Monetário Internacional (FMI) prevê que quase 40% dos empregos em todo o mundo serão afetados pelo avanço da IA, substituindo alguns e complementando outros. No entanto, é importante observar que a adoção da IA também pode aumentar a produtividade do trabalho e impulsionar o PIB global em 7% ao ano durante um período de 10 anos. Portanto, embora a IA possa causar perturbações no mercado de trabalho, muitos empregos provavelmente serão complementados, em vez de substituídos.
IA e o futuro dos Sistemas de Saúde
Um importante Simpósio do MIT sobre sistemas comprexos, incluiu palestras sobre sistemas financeiros, energéticos e de saúde. Em particular, a palestra de Denis Cortese , que foi o presidente e CEO da Mayo Clinic, professor na Arizona State University e diretor do Centro de Prestação e Política de Saúde, me chamou a atenção. O Dr. Cortese explica que a assistência médica é um sistema dentro de outros sistemas e é composta por três domínios principais:
(1) Conhecimento — o domínio da pesquisa médica, onde novas ideias, invenções e abordagens são desenvolvidas;
(2) Prestação de cuidados — o domínio dos médicos e hospitais onde os pacientes são tratados; e
(3) Pagadores — o domínio do seguro e dos governos que pagam pela prestação de assistência médica.
Cada um desses domínios é complexo por si só, mas suas interações são uma das principais razões pelas quais os sistemas de assistência médica são tão complexos.
A IA poderia a ajudar a lidar melhor com a complexidade dos sistemas de saúde?
Após décadas de promessas e exageros, a IA se tornou a tecnologia definidora da nossa era. Nas últimas duas décadas, os elementos se uniram para impulsionar a IA além das universidades e laboratórios de pesquisa, para o mercado: tecnologias de computação; algoritmos e modelos avançados; e enormes quantidades de todos os tipos de dados, têm sido o elemento-chave para os principais avanços da IA nos últimos 20 anos, incluindo big data e ciência de dados (anos 2000), aprendizado de máquina (anos 2010) e Large Language Models (LLMs) (anos 2020) e IA generativa, já em nossos dias.
Ao tentar entender o uso da IA em sistemas de saúde, cheguei até o trabalho de John Halamka, presidente da Mayo Clinic Platform, uma organização que visa impulsionar inovações em diagnóstico, tratamento e melhorias operacionais em sistemas de saúde. John também é escritor, tendo vários artigos e livros sobre o assunto.
“No século XXI, é impossível definir a medicina sem levar em conta os avanços na ciência da computação e na inteligência artificial em particular, pois ambos impactam profundamente médicos e pacientes”, escreveram Halamka e Paul Cerrato no livro Redefining the Boundaries of Medicine.
No primeiro capítulo, “A promessa e o perigo da inteligência artificial”, os autores discutem os principais impulsionadores da transformação digital na saúde, incluindo:
- A quantidade de novas informações médicas e técnicas, que são tão grandes que o cérebro humano é incapaz de processá-las, muito menos de aplicá-las à pacientes. Estima-se que quase 2 milhões de novos artigos científicos sejam publicados a cada ano.
- As habilidades analíticas, a alfabetização computacional e a experiência clínica para chegar a diagnósticos precisos em cenários de pacientes complexos.
- A capacidade dos aplicativos de computador de melhorar a eficiência e reduzir erros ao lidar com muitos processos e procedimentos administrativos e operacionais, e
- O reconhecimento na comunidade de saúde de que o atendimento ao paciente é tendencioso contra certos segmentos marginalizados da sociedade.
A crescente complexidade da medicina, combinada às limitações humanas, contribuem para a epidemia de diagnósticos errados que atormentam a profissão médica. Como Halamka e Cerrato escreveram em seu livro, Reinventing Clinical Decision Support, “todo ano, cerca de 5% dos pacientes ambulatoriais adultos nos Estados Unidos sofrem um erro de diagnóstico; os erros de diagnóstico contribuem para cerca de 1 em cada 10 mortes de pacientes, causando até 17% dos eventos adversos relatados em pacientes hospitalizados e afetam aproximadamente 12 milhões de pacientes ambulatoriais adultos por ano (1 em cada 20 americanos).”
Dado o papel central dos dados nos sistemas de IA, os registros eletrônicos de saúde (EHRs) desempenham um papel fundamental no desenvolvimento de sistemas de IA capazes de lidar com os desafios do mundo real no setor de saúde.
Conforme explicado no CMS.gov : “Um Registro Eletrônico de Saúde (EHR) é uma versão eletrônica do histórico médico de um paciente, que é mantido ao longo do tempo e pode incluir todos os principais dados clínicos administrativos relevantes para o atendimento dessa pessoa sob um provedor específico, incluindo dados demográficos, notas de progresso, problemas, medicamentos, sinais vitais, histórico médico, imunizações, dados laboratoriais e relatórios de radiologia.”
“Os EHRs são o próximo passo no progresso contínuo da assistência médica que pode fortalecer o relacionamento entre pacientes e clínicos. Os dados, e a pontualidade e disponibilidade deles, permitirão que os provedores tomem melhores decisões e forneçam melhor atendimento.” Além disso, os EHRs podem melhorar o atendimento ao paciente e reduzir a incidência de erros médicos ao melhorar a precisão e a clareza dos registros.
Nos últimos anos, houve um avanço na adoção de padrões de EHR, como o Fast Healthcare Interoperability Resources (FHIR), um padrão para compartilhamento de informações entre clínicos e organizações, independente das formas como os EHRs apresentam ou armazenam os dados. Também houve um progresso significativo na redução das barreiras de interoperabilidade entre aplicativos de saúde de diferentes fornecedores. Como resultado, um número crescente de hospitais e práticas médicas agora implantaram aplicativos de EHR interoperáveis e padronizados.
Um próximo passo importante é usar ferramentas baseadas em IA para analisar esse volume crescente de dados de EHR e fornecer conhecimento acionável aos médicos. De acordo com o artigo AI in healthcare da Wikipedia, algoritmos de IA mostraram resultados promissores em uma série de aplicações clínicas, incluindo o diagnóstico mais preciso e a estratificação de risco de pacientes com sintomas de doença arterial coronária, além do processamento de imagens para auxiliar dermatologistas na detecção de câncer de pele e a rápida identificação de tecido anormal em colonoscopias e endoscopias e detecção de câncer de mama e próstata.
As ferramentas de IA também podem ajudar os médicos a diagnosticar pacientes com sintomas raros, analisando dados de EHR em muitas instituições. “As condições médicas se tornaram mais complexas e, com um amplo histórico de registros médicos eletrônicos, a probabilidade de duplicação de casos é alta. Embora, alguém hoje com uma doença rara tenha menos probabilidade de ser a única pessoa a ter tido uma determinada doença, a incapacidade de acessar casos de origens sintomáticas semelhantes é um grande obstáculo para os médicos. A implementação de IA para ajudar não apenas a encontrar casos e tratamentos semelhantes, como por meio de preditores precoces da doença de Alzheimer e demências, mas também levar em consideração os principais sintomas e ajudar os médicos a fazer as perguntas mais apropriadas, ajuda o paciente a receber o diagnóstico e o tratamento mais precisos possíveis.”
“Em uma época em que cada clique pode ser rastreado e os registros médicos são totalmente eletrônicos, os médicos devem ser capazes de referenciar digitalmente as decisões tomadas por outros clínicos para descobrir: O que aconteceu com outros pacientes como o meu?,” observou “Como os registros médicos podem fechar a lacuna de informações no atendimento ao paciente”, um artigo da Harvard Business Review (HBR) de 2023, coautorado por Halamka.
“Considere este exemplo da vida real (a mãe de John Halamka): Uma mulher idosa que apresenta um estado mental prejudicado, febre e um baixo nível de sódio sérico. Ela é atendida e hospitalizada por um médico clínico geral, que reconhece que o paciente provavelmente tem uma infecção do trato urinário (ITU) e inicia o tratamento com antibióticos e redutores de febre. No entanto, uma ITU não explica inteiramente os baixos níveis de sódio do paciente. Embora o baixo sódio possa ser resultado da depuração renal de sódio, os pacientes com ITUs raramente apresentam baixo sódio, deixando o médico sem respostas.”
“Infelizmente, não há muitas respostas disponíveis porque um ensaio clínico envolvendo mulheres de 80 anos com estado mental prejudicado e sódio anormalmente baixo, não foi realizado no hospital onde a referida senhora está sendo tratada. Mas, com milhões de registros eletrônicos de pacientes disponíveis, uma consulta de banco de dados pode permitir que o médico diagnostique e trate o paciente com mais precisão, em vez de apenas tentar adivinhar.”
“Mesmo médicos altamente treinados e qualificados vivenciam uma lacuna de evidências que prejudica sua capacidade de diagnosticar e tratar com precisão certos pacientes, o que é uma das razões pelas quais essa análise precisa ser feita rotineiramente. Consultas regulares a bancos de dados podem responder a perguntas clínicas críticas como”:
- Qual é o diagnóstico correto?
- Quais exames diagnósticos devem ser solicitados?
- Qual é a implicação desse resultado laboratorial anormal ou marcador genômico?
- Qual é o prognóstico típico para pacientes como esse?
- Quais medicamentos ou outras modalidades de tratamento devem ser tomados, em que ordem, para otimizar os resultados?
- Este procedimento valerá o risco e/ou custo para este paciente?
- A vida do paciente pode ser prolongada ou melhorada com tratamentos alternativos?
“Está claro que o futuro da assistência médica depende da democratização do conhecimento especializado por meio do aumento das habilidades humanas com algoritmos de IA”, escreveram Halamka e Cerrato em Redefining the Boundaries of Medicine . “No entanto, deve haver políticas claras sobre isso. Devemos garantir que sempre que a IA for usada para suporte à decisão, ela seja apropriada para o paciente que está sendo tratado. Devemos ter padrões internacionais que quantifiquem o viés, a utilidade e a adequação à finalidade. A explosão da pesquisa e o surgimento de novas fontes de dados — wearables, genômica e imagens avançadas — criaram um desafio de tomada de decisão que está além da escala humana. Garantir que essas novas ferramentas sejam usadas de forma ética depende de nós.”
25/07/2024
Código aberto e Sistemas de IA
“Os sistemas de IA não operam como software tradicional – eles exigem processos distintos e dependem de recursos especializados, que atualmente são caros e estão nas mãos de algumas grandes empresas de tecnologia”, escreveram David Gray Widder, Meredith Whittaker e Sarah Myers West, no artigo: “Open (for Business): Big Tech, Concentrated Power, and the Political Economy of Open AI”. “Mesmo assim, muitas das promessas originais do movimento de Open Source, estão sendo projetadas na IA 'aberta'. Uma das promessas, era de que o código aberto ou o Open Source poderia democratizar o desenvolvimento de software, na perspectiva de que, o código aberto nivela a competição, permitindo que os mais inovadores consigam destaque. O Open Source já fez muito pela comunidade da Internet, em várias modalidades e instâncias. Mas com a IA 'aberta', a história é diferente.”
Ao tentar entender como as promessas originais do Open Source agora se aplicam a esta nova geração de sistemas de IA, achei o artigo acima citado, bastante útil e aqui seguem meus comentários:
O que é (e o que não é) aberto na IA de código aberto
O artigo observa que o código aberto na IA é um conceito difícil de definir, em parte, porque a própria IA não está claramente definida, o que é "aberto" em sistemas altamente complexos como a IA. "De fato, ainda não há uma definição clara de IA 'aberta' ou 'de código aberto', mesmo que a atenção ao tópico tenha aumentado muito", observam os autores.
A inteligência artificial surgiu pela primeira vez em meados da década de 1950 como uma nova disciplina acadêmica que visava desenvolver máquinas inteligentes capazes de lidar com tarefas semelhantes às humanas, como processamento de linguagem natural. A IA se tornou uma das áreas mais empolgantes nas ciências da computação nas décadas de 1960, 1970 e 1980, mas depois de anos de promessas não cumpridas e exageros, houve um inverno da IA, com interesses e financiamentos reduzidos, que quase matou está área de estudo.
A IA renasceu na década de 1990 com um paradigma totalmente diferente baseado na análise de grandes quantidades de dados com algoritmos sofisticados e computadores poderosos. Esse paradigma de IA centrado em dados continuou a avançar nos últimos 20 anos com grandes inovações em diversas áreas como big data, análise preditiva, aprendizado de máquina e, recentemente, os grandes odelos de linguagem (LLMs) e chatbots generativos. A IA agora tem uma das, se não a principal tecnologia definidora do século XXI.
“Como os sistemas de IA grandes e generativos, são os que mais claramente perturbam os limites e questionam as ideologias tradicionais de Open Source e ciência aberta, focamos principalmente nesses sistemas, neste artigo”, escreveram os autores. “Quando usamos o termo IA, estamos usando-o para nos referir a esses grandes sistemas.”
“De modo geral, os termos 'aberto' e 'código aberto' são usados no contexto da IA de várias maneiras para se referir a capacidades que podem ser amplamente agrupadas como: (1) atributos de oferta de transparência — a capacidade de acessar e examinar código-fonte, documentação e dados; (2) reutilização — a capacidade e o licenciamento necessários para permitir que terceiros reutilizem código-fonte e/ou dados; e (3) extensibilidade — a capacidade de construir sobre modelos prontos existentes, 'ajustando-os' para um ou outro propósito específico.
Os termos 'aberto' e 'código aberto' são usados de forma variável para se referir a esses atributos, na prática há diferentes graus de 'abertura' que oferecem níveis de acesso muito diferentes.”
“Embora existam alguns sistemas de IA abertos ao máximo, que oferecem transparência intencional e extensa — os recursos necessários para construir IA do zero e implantar grandes sistemas de IA em escala permanecem 'fechados' — disponíveis apenas para empresas com recursos significativos (quase sempre corporativos).” O artigo ainda faz referência a outro artigo “The Gradient of Generative AI Release: Methods and Considerations”, que define seis pontos principais de abertura em sistemas de IA generativos atuais.
Os argumentos a favor e contra a IA 'aberta'
“A IA aberta está sendo referenciada atualmente por atores poderosos, com discursos políticos para moldar a trajetória regulatória em torno da IA”, observam os autores. “Conversas sobre IA 'aberta' têm implicações significativas e de alto risco além dos termos restritos de licenças e mecanismos de transparência estão sendo implantados para moldar o cenário geral da política de IA. Como em qualquer situação de lobby e influência, a retórica em torno da defesa da política de IA 'aberta' está sendo lida à luz dos interesses particulares da entidade que os faz. E, como no passado, a abertura está sendo usada hoje por empresas na forma de uma política retórica para fazer lobby, consolidar e reforçar suas posições.”
A adoção do Linux por grandes empresas nos anos 2000 foi acompanhada por desafios semelhantes a estes recentes da IA. Algumas das empresas que viam o Linux como uma ameaça competitiva atacaram fortemente as empresas que usavam Linux, bem como a comunidade Linux em geral. Ameaças contra o Linux e contra as empresas que o adotaram continuaram por anos, chegando a processos multimilionarios.
O artigo Open IA discutiu algumas das alegações feitas a favor e contra a IA de código aberto. E aqui estão duas das alegações, uma a favor: segurança por meio da transparência; e uma contra: aumento da insegurança .
A IA aberta cria segurança por meio da transparência
No final da década de 1990, algumas empresas americanas, que passaram a fazer uso de soluções de software Open Source em sistemas altamente sensíveis, criaram um Painel de discussão sobre Software Open Source, que incluía representantes de universidades, agências federais, laboratórios de pesquisas e fornecedores de supercomputação. O Painel realizou uma série de reuniões e na sequência, divulgou seu relatório em outubro de 2000 e as descobertas são particularmente relevantes para as discussões atuais:
“Acreditamos que o modelo de desenvolvimento Open Source representa uma estratégia viável para produzir software de alta qualidade por meio de uma mistura de parcerias públicas, privadas e acadêmicas. … O software Open Source pode oferecer potenciais vantagens de segurança sobre o modelo de desenvolvimento proprietário tradicional. Especificamente, o acesso dos desenvolvedores ao código fonte, que permite um exame completo e que diminui potencial falhas de segurança. Além disso, o modelo de código aberto aumenta o número de programadores buscando por bugs e, subsequentemente, desenvolvendo correções, reduzindo assim áreas potenciais para exploração maliciosas.”
Da mesma forma, o artigo Open AI observa que “a IA Open Source promove a segurança ao permitir que pesquisadores e autoridades auditem o desempenho do modelo, identifiquem riscos e estabeleçam mitigações ou contramedidas”. No entanto, os autores acrescentam que “a eficácia da auditoria como medida de segurança é fortemente baseada em garantir que recursos estejam disponíveis e incentivos alinhados de forma que auditorias realmente ocorram e sejam robustas o suficiente para levar em conta os riscos reais representados pela implantação de modelos de IA”.
IA aberta aumenta a insegurança
“Argumentos na direção oposta posicionam a IA Open Source como uma fonte de insegurança, ao tornar uma tecnologia tão poderosa amplamente disponível para reutilização, potencialmente colocando-a nas mãos de maus atores.”
“Preocupações sobre a insegurança da proliferação de modelos de IA Open Source são justificadas, entre outras razões, porque os modelos de código aberto permitem que a IA seja ajustada em pequena escala sem uma curva de aprendizado. Há poucos comentários e poucos claros sobre esse argumento, especialmente considerando aqueles que o fazem; é por que o acesso aos mesmos modelos ou modelos igualmente poderosos aos obtidos por meio de um contrato de nuvem da Microsoft ou Google — que é o padrão atual — representa menos perigo do que reutilizar um modelo de IA lançado abertamente. … Um pequeno número de empresas gigantes não garante, por si só, uma IA mais segura.”
Conclusão
“Mesmo em suas máximas instâncias, nas quais sistemas de IA 'abertos' fornecem transparência robusta, reutilização e extensibilidade, tais características não garantem, por si só, acesso democrático ou competição significativa em IA”, escreveram os autores na conclusão. “Nem tendo uma IA aberta sozinha resolve o problema da informação democrática ou segura. Mesmo assim, a retórica e a promessa de abertura em sistemas de IA estão sendo tratadas por empresas poderosas que tentam reforçar suas posições diante do crescente interesse na regulamentação da IA.”
“Os formuladores de políticas precisam abordar a regulamentação da IA com uma compreensão clara de coisas que a IA 'é' e 'não é', e com um reconhecimento fundamentado do que a IA 'aberta' pode e não pode entregar. Isso produzirá uma imagem muito diferente das possibilidades da IA 'aberta' do que aquela que está sendo desenhada atualmente. Também exigirá foco nas diferenças significativas entre software de código aberto e IA 'aberta', e reconhecimento de que os processos de desenvolvimento, requisitos de recursos e centralização inerente da IA significam que ela não pode ser facilmente descrita ou definida em termos forjados originalmente para promover e definir software de código aberto.”
23/07/2024
Produtividade: crescimento lento x avanços tecnológicos vertiginosos
A produtividade, na economia, é considerada a relação entre aquilo o que é produzido e os meios empregados (mão-de-obra, materiais, energia, etc.). Produtividade tem a ver com eficiência e tempo: quanto menor for o tempo levado para obter o resultado pretendido, mais produtivo será o sistema.
“Um dos quebra-cabeças mais difíceis de se resolver nas últimas décadas é a desaceleração no crescimento da produtividade em nações industrializadas, apesar dos avanços vertiginosos nas tecnologias de informação e comunicação (TIC) e na eletrônica”, escreveram os economistas Daron Acemoglu, David Autor e Christina Patterson em seu artigo Bottlenecks: Sectoral Imbalance and the US Productivity Paradox.
Nas últimas três décadas, as patentes de TIC e eletrônica e o crescimento da produtividade têm se movido em direções totalmente opostas. O número total de patentes concedidas entre 1990 e 2010 cresceu de 99.000 para 208.000, com as patentes de TIC e eletrônica respondendo por 80% desse aumento. E, enquanto o Fator Total de Produtividade (FTP), — geralmente considerada o principal contribuinte para o crescimento do PIB, — cresceu 1,7% nos EUA entre 1997 e 2005, sendo o crescimento mínimo, cerca de 0,4% desde 2005. Veja o gráfico dos últimos 10 anos.
“Como esses fatos antagônicos podem ser resolvidos?”, perguntam os autores. Estamos em uma “nova era de abundância impulsionada por nossas máquinas cada vez mais inteligentes?” Ou entramos em “uma era de crescimento mais lento porque as tecnologias de maior impacto já foram desenvolvidas e exploradas?”
Em artigo de 2018, The Productivity J-Curve, Erik Brynjolfsson, Daniel Rock e Chad Syverson explicam que tecnologias transformadoras — por exemplo, a máquina a vapor, eletricidade, semicondutores, internet, IA — são tecnologias definidoras de seus tempos. Mas, historicamente, alguns padrões nos dizem que há um atraso entre a aceitação do mercado de uma tecnologia transformadora e seu impacto mais amplo nas indústrias, economias e sociedades. Embora essas tecnologias tenham grande potencial desde o início, perceber esse potencial requer grandes investimentos, incluindo o redesenho de processos de negócios; novos produtos, aplicativos e modelos de negócios inovadores; a requalificação da força de trabalho; e um repensar da própria natureza da produção.
Em seu artigo, Acemoglu, Autor e Patterson ofereceram uma estrutura conceitual que explica as tendências conflitantes entre avanços tecnológicos e crescimento da produtividade: avanços tecnológicos e inovação em qualquer indústria dependem de inovações complementares nos insumos e ideias das indústrias fornecedoras em seu setor. Quando a inovação está desequilibrada em um setor, ela retém o crescimento da produtividade e gera obstáculos à inovação. “Nossa estrutura conceitual, portanto, enfatiza que uma distribuição equilibrada de avanços tecnológicos entre setores é importante para a viabilidade de inovações futuras. … Nossa perspectiva também enfatiza como uma distribuição mais equilibrada do progresso tecnológico (e pesquisa e desenvolvimento) pode melhorar o desempenho da produtividade.”
O artigo ilustra como os obstáculos surgem e como sua resolução acelera a inovação e o crescimento, com exemplos concretos de três tecnologias relativamente recentes: baterias recarregáveis, transistores e GPS.
Baterias recarregáveis. Baterias recarregáveis desempenharam um papel importante na alimentação de laptops, dispositivos móveis pessoais, carros elétricos e outras inovações importantes do século XXI. Baterias recarregáveis foram um obstáculo tecnológico até a década de 1970 porque, por mais de cem anos, as melhores baterias disponíveis, baterias de chumbo, tinham baixa densidade de energia, uma taxa de carregamento lenta, um ciclo de vida curto e o potencial de liberar gás hidrogênio explosivo durante a recarga. O gargalo da bateria recarregável foi finalmente superado pelas baterias de íons de lítio, inventadas em 1973 e melhoradas ao longo da década de 1980. Em 1991, a Sony começou a produzir e vender as primeiras baterias de íons de lítio recarregáveis do mundo.
Transistores. Embora na década de 1950, dispositivos eletrônicos, linhas telefônicas, rádios, transmissores, amplificadores de áudio e os primeiros computadores fossem grandes, frágeis e lentos porque os interruptores eletromecânicos e válvulas de vácuo que esses produtos usavam eram tecnologias de gargalo. O transistor, inventado nos Laboratórios Bell da ATT em 1947, foi comercializado pela primeira vez na década de 1950 em produtos simples como rádios transistorizados. Os transistores então permitiram o rápido crescimento dos computadores a partir da década de 1960. A Lei de Moore captura sucintamente os avanços impressionantes dos transistores e circuitos integrados nas décadas seguintes. "Estima-se que o transistor seja o dispositivo mais fabricado na história, com 13 sextilhões (1021) de unidades até o momento, com bilhões a mais produzidos a cada dia."
Sistema de Posicionamento Global. “A navegação tradicional foi complementada com sistemas de posicionamento de rádio na década de 1970, mas essas ferramentas sofriam de baixa precisão ou cobertura geográfica limitada e, portanto, não iam além das aplicações de transporte militar e comercial.” O GPS foi desenvolvido pelos militares dos EUA para superar essas deficiências. Os satélites GPS foram lançados pela primeira vez em 1978 e abertos ao uso público mundial em 1983. Ao longo dos anos, o GPS permitiu uma série de inovações importantes, incluindo “agricultura de precisão, mineração e exploração de petróleo; informações de tempo de precisão atômica para sincronização de sistemas de transmissão de energia; levantamento remoto para geologia e previsão do tempo; e inúmeros serviços voltados para o consumidor, como transporte por aplicativo, publicidade direcionada e rastreadores de objetos.”
Os autores desenvolveram um modelo matemático para formalizar sua estrutura conceitual, a saber, que o crescimento lento decorre em parte de uma distribuição desequilibrada de inovação. Eles então validaram empiricamente sua hipótese usando dados de uma variedade de fontes, incluindo links de citação, patentes e dados de crescimento de produtividade de 462 indústrias de manufatura e 42 indústrias não manufatureiras e aqui estão suas principais descobertas.
- “Por meio de uma variedade de abordagens de medição, resultados de produtividade e países, verificamos a previsão primária desta hipótese: o crescimento da produtividade de uma indústria é aumentado pelo crescimento médio da produtividade de seus fornecedores (medido pelo PTF ou inovação) e, crucialmente, é prejudicado pela variância do crescimento de sua produtividade.”
- Há uma ligação poderosa entre a capacidade de inovação de um setor ou empresa e os desequilíbrios que ela enfrenta em seus setores a montante (ideia-fornecedor). Quanto maior a dispersão, ou seja, a variação ou a distribuição do crescimento da produtividade entre os fornecedores de uma indústria, maior a influência negativa que ela tem nas oportunidades de crescimento dessa indústria. Dobrar a variação do crescimento do FTP dos fornecedores em um setor está associado a um crescimento de produtividade aproximadamente 0,9 ponto percentual mais lento para esse setor.
- “A dispersão do crescimento do FTP entre as principais indústrias aumentou significativamente nas últimas décadas.” Essa dispersão maior explica essencialmente toda a desaceleração da produtividade agregada na manufatura entre as décadas de 1970 e 2007. Por exemplo, se a variação no crescimento do FTP na manufatura tivesse permanecido em seu nível de 1977–1987 nas duas décadas subsequentes, a produtividade da manufatura dos EUA teria crescido duas vezes mais rápido em 1997–2007 do que cresceu.
- “A variação do FTP do fornecedor na indústria aumentou durante este período, tanto porque as indústrias atrasadas não conseguiram crescer quanto porque as indústrias líderes se afastaram das demais.”
As indústrias de crescimento mais rápido, definidas como aquelas que tiveram o maior impacto na variação do FTP do fornecedor entre 1997 e 2007, incluem computadores eletrônicos, dispositivos de armazenamento de computador e semicondutores. As indústrias de crescimento lento que se tornaram os maiores gargalos no mesmo período incluem refinarias de petróleo, preparação farmacêutica, montagem de circuitos impressos e geradores de turbina. E as indústrias com mais gargalos, definidas como aquelas retidas pela inovação desigual entre seus fornecedores, incluem instrumentos cirúrgicos e médicos, motores a gás e válvulas industriais.
Esses resultados empíricos valem para toda a economia e, dentro do setor de manufatura (onde o FTP é melhor medido), eles estão presentes em diferentes sub períodos e com medidas alternativas de dispersão de produtividade. “Também verificamos que esses padrões não são impulsionados por outliers, nem são exclusivamente devidos aos rápidos avanços nos setores de computadores e eletrônicos (embora esses setores desempenhem um papel central em nossos resultados).” Além disso, “documentamos padrões análogos usando dados internacionais e estabelecemos que a dispersão na produtividade entre as principais indústrias fornecedoras nacionais e internacionais também tem sido um grande impedimento ao crescimento da produtividade para várias economias líderes da OCDE.”
“Vemos nossos resultados como sugestivos de uma ligação potencialmente importante entre gargalos de produtividade e crescimento de produtividade. … Nossa análise sugere ainda que, após avanços em setores que atuam como gargalos, deve haver uma aceleração do crescimento da produtividade agregada e da indústria.”
Além da Guerra de Preços: O Oceano Azul na Conectividade Brasileira
Introdução Lançado em 2005 por W. Chan Kim e Renée Mauborgne, A Estratégia do Oceano Azul revolucionou o pensamento estratégico...
-
“Os projetos substituíram as operações como o motor econômico dos nossos tempos”, escreveu Antonio Nieto-Rodriguez em “ The pro...
-
Está é uma Análise direta e longitudinal da evolução das IAs O Desafio de Medir o Progresso Nos últimos anos, testemunhamos gran...



