O Macaco Elétrico

@PauloSilvestre

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor

  1. 3d ago

    Por que a ANPD bloqueou lives no Discord

    Pílula de cultura digital para começarmos bem a semana 😊 A Agência Nacional de Proteção de Dados (ANPD) determinou na quarta (12) a suspensão preventiva das transmissões ao vivo do Discord no Brasil, depois que uma adolescente se suicidou em uma live. O prazo para cumprir a determinação vence hoje (17), mas a empresa já pediu prorrogação. O bloqueio tem provocado polêmica, mas traz apenas um lampejo sobre a pouca disposição das redes sociais de resolver um problema sistêmico que elas criaram e que está na essência desses serviços. Além do Discord, plataformas digitais como Roblox, TikTok, Instagram, Telegram e WhatsApp possuem características como anonimato relativo, comunicação privada, formação de comunidades fechadas, recomendação de conteúdo e mecanismos de viralização. Apesar de suas arquiteturas serem diferentes, tudo isso dificulta a supervisão adulta do que crianças e adolescentes fazem online. Nesse sentido, a suspensão das lives funciona como uma medida emergencial necessária, mas não resolve o verdadeiro problema, que é estrutural. Representantes do próprio Discord disseram que, com o bloqueio, os criminosos simplesmente migrarão para outro serviço, e que o grupo que coagiu a menina de 13 anos a se matar se organizou em outras redes. Isso sugere que regular uma ou outra plataforma digital nunca será suficiente, pois suas ameaças estão disseminadas em todos esses serviços. Medidas razoáveis, porém enérgicas, devem ir além de buscar saber qual tecnologia é perigosa. O que deve ser considerado é qual arquitetura cria um risco específico, quem deve ser responsável por mitigá-lo e como isso deve ser feito. O fato de um problema ser difícil de resolver não nos permite ignorá-lo. Pelo contrário, isso exige uma ação conjunta e vigorosa da sociedade em busca de uma solução real, fugindo dos tradicionais discursos corporativos inócuos. E qualquer que seja a solução, ela exigirá mudanças estruturais nas redes sociais. Você acha essa proibição das lives correta ou exagerada?

    Por que a ANPD bloqueou lives no Discord
  2. Aug 10

    A IA mudou o jogo da cibersegurança

    Pílula de cultura digital para começarmos bem a semana 😊 Há um ditado infame na cibersegurança que diz que existem dois tipos de empresas: as que já foram invadidas e as que acham que ainda não foram invadidas. Só acham! Com a explosão da inteligência artificial, as equipes de defesa de sistemas ficaram mais pressionadas. Mas supor que esse seja o único problema simplifica perigosamente o cenário atual, que dá a essa anedota uma nova dimensão. Não dá mais para achar que o sucesso em cibersegurança se medirá pela expectativa de nunca ser invadido. De agora em diante, a eficiência dependerá da capacidade de lidar bem com as consequências de um ataque. Essa foi uma das mensagens da Conferência de Segurança e Gestão de Risco do Gartner, que aconteceu nos dias 4 e 5 de agosto, em São Paulo. A IA já não ameaça apenas ao criar códigos maliciosos ou potencializar ataques de engenharia social. Agora, agentes de IA já são capazes de explorar vulnerabilidades, identidades e credenciais para acessar sistemas. Foi o que aconteceu em meados de julho, quando um agente movido por modelos da OpenAI (criadora do ChatGPT) invadiu a Hugging Face. Durante uma avaliação de segurança, ele escapou do ambiente de testes, explorou falhas e acessou credenciais que lhe permitiram avançar pela infraestrutura da plataforma. Nesse cenário, em vez de nos preocuparmos com como impedir que invadam nossa empresa, precisamos perguntar o que precisa continuar funcionando mesmo em um ambiente hostil. Neste episódio, eu indico caminhos para fazer isso do jeito certo. Em qual dos dois grupos de empresa você está? O que vocês fazem para mitigar prejuízos de invasões inevitáveis?

    A IA mudou o jogo da cibersegurança
  3. Aug 3

    ChatGPT transforma confiança em produto

    Pílula de cultura digital para começarmos bem a semana 😊 A OpenAI confirmou que passará a exibir anúncios ao longo das conversas do ChatGPT com seus usuários no Brasil, nas próximas semanas. Parte do mercado anseia embevecido por esse inventário virtualmente infinito e com poder de convencimento sem precedentes. Mas a novidade pode transformar uma plataforma vista como neutra em um vendedor opaco, capaz de se valer de trocas íntimas para influenciar escolhas decisivamente, sem que o usuário perceba. Naturalmente, empresas devem aumentar suas receitas, especialmente quando são muito deficitárias, como é o caso dessas grandes plataformas de inteligência artificial. Ainda assim, a ética propõe que nem tudo que possa ser feito deva ser feito. Indicar o que é publicidade resolve um problema de formalização, mas trai a confiança que a própria interface conversacional criou antes de qualquer anúncio aparecer. Quando a resposta chega em primeira pessoa, articulada como julgamento de uma voz que parece pensar com o usuário, a autoridade já está formada quando a peça surge logo abaixo, ainda contaminada por essa proximidade. O ChatGPT acabou de atingir 1 bilhão de usuários no mundo. Os anúncios na plataforma foram lançados nos EUA em fevereiro, e depois expandidos para Canadá, Austrália e Nova Zelândia. Agora, usuários do Brasil, México, Reino Unido, Japão e Coreia do Sul também verão anúncios nos planos gratuito e Go (o mais barato). Com a IA generativa, as big techs estão levando a humanidade a um novo patamar de produtividade e desenvolvimento, o que merece aplausos. Mas nem esse feito lhes dá carta branca para fazerem o que bem entenderem. É no mínimo hipócrita ignorar os evidentes riscos de manipulação nesse lançamento. Neste epissódio, eu explico como pode ser arriscado ter anúncios em plataformas de IA generativa. Depois conte para nós se você acha que essa novidade pode comprometer a sua confiança no ChatGPT.

    ChatGPT transforma confiança em produto
  4. Jul 27

    O lado perigoso da eficiência da IA

    Pílula de cultura digital para começarmos bem a semana 😊 O que podemos aprender com o recente ataque à Hugging Face por modelos de inteligência artificial? Ao contrário do que alguns catastrofistas de plantão se apressaram a dizer, a invasão dessa plataforma colaborativa para modelos e aplicações de IA por sistemas da OpenAI não significa que a IA se tornou “consciente” e muito menos que estamos na aurora de uma “revolta das máquinas”. Mas o fato não pode ser ignorado, pois revela que a confiança excessiva na IA pode fragilizar cuidados essenciais com sistemas cada vez mais poderosos, cujos comportamentos nem seus desenvolvedores conseguem explicar plenamente. Durante um teste de cibersegurança, uma combinação de modelos da OpenAI concluiu que, melhor que construir uma solução para um desafio que lhe foi proposto, seria encontrar uma maneira de escapar do ambiente de desenvolvimento e procurar uma resposta pronta na Internet. E foi exatamente isso que fez. Talvez o mais irônico seja que a IA não teria “desobedecido” seus desenvolvedores, e sim sido “eficiente demais” na busca da solução. É como um pai exigir que o filho tire uma boa nota em uma prova. Então, durante o exame, ao perceber que o professor foi ao banheiro, o aluno encontra uma maneira de sair da sala, entrar na secretaria, roubar o gabarito, voltar para sua carteira e, assim, tirar dez no teste. Esse foi o primeiro ataque realizado por agentes de IA sem intervenção humana. Longe de ser uma anomalia, ele pode indicar uma realidade emergente em que esses sistemas passem a se comportar de maneira indesejada, não porque sejam intencionalmente maus, mas porque os desenvolvedores não conseguirão mais acompanhar sua evolução. Já passou da hora de as ferramentas de governança para desenvolvimento e uso seguros acompanharem esse ritmo. Pisar fundo no acelerador sem ter um pedal de freio ao lado é muito perigoso, tanto para carros quanto para a inteligência artificial. Neste episódio, eu explico em detalhes este incidente e o que podemos aprender com ele.

    O lado perigoso da eficiência da IA
  5. Jul 20

    A IA está mudando como você fala

    Pílula de cultura digital para começarmos bem a semana 😊 Você está mudando a sua maneira de falar, escrever e até pensar? Para quem escrever é um modo de vida, como eu, a influência da inteligência artificial generativa nos textos que inundam as redes sociais e até publicações sérias grita. Depois de quase quatro anos de ChatGPT, nem é preciso olhos muito treinados para identificar isso. Menos óbvio e mais grave é como essa dependência tecnológica crescente também está alterando como falamos e até pensamos. À medida que as pessoas usam mais essa tecnologia para produzir mesmo textos prosaicos, dois fenômenos ocorrem. O primeiro consiste no uso recorrente das mesmas palavras e construções frasais, o que empobrece a transmissão de ideias e a torna mais prolixa. O outro é a diminuição de confiança dos autores em sua própria capacidade produtiva, o que retroalimenta essa dependência. Há ainda um terceiro fator que afeta mais cidadãos do chamado Sul Global, como o Brasil. Considerando que os modelos de IA são majoritariamente treinados com conteúdos da América do Norte e da Europa, principalmente em inglês, aos poucos o léxico, a estrutura gramatical, a formulação de ideias e até a ética daqueles países substitui insidiosamente as nossas versões dessas características. Isso inaugura uma nova dominação cultural, muito mais sutil e poderosa. O uso exagerado e inconsequente da IA em nossas produções também cobra um preço alto em relações interpessoais. Cada vez mais pessoas reprovam publicamente essa prática, passando a questionar as habilidades de quem se vale dela. Tudo isso resulta da natureza da IA generativa. Nunca houve uma tecnologia que nos impactasse cognitivamente de maneira tão decisiva. Esses desafios não podem ser ignorados, pois têm potencial de alterar sensivelmente a sociedade e os indivíduos. Mas como fazer isso? Eu explico neste episódio.

    A IA está mudando como você fala
  6. Jul 13

    Brinquedos com IA criam novos riscos às crianças

    Pílula de cultura digital para começarmos bem a semana 😊 Você compraria um ursinho de pelúcia que fala de sadomasoquismo com seus filhos? A inteligência artificial generativa chegou aos brinquedos. A tecnologia viabilizou robôs capazes de interações antes inimagináveis, que criam “companheiros” para crianças que, em alguns aspectos, parecem estar vivos. Mas pais e órgãos de defesa do consumidor de vários países veem com ressalva essa novidade, pois usos descuidados da IA pelos fabricantes estão trazendo novos riscos para dentro de casa. Um caso emblemático é o urso de pelúcia inteligente Kumma. O grupo de defesa do consumidor americano PIRG Education Fund identificou que o brinquedo, vendido por US$ 99 nos EUA, conversava com as crianças sobre usos de sacos plásticos, fósforos, facas e assuntos sexuais. Depois disso, ele deixou de ser vendido. No Brasil, a Secretaria Nacional de Direitos Digitais divulgou, no início de julho, uma nota técnica em que descreve seus testes com seis “smart toys” disponíveis no mercado, incluindo os riscos de cada um deles. A publicação não tem força de lei, não cria obrigações ou altera a legislação existente, nem proíbe a venda de produtos. Mas ela pode produzir efeitos importantes. Como foi elaborada confrontando esses produtos com leis como o ECA Digital, a Lei Geral de Proteção de Dados e o Código de Defesa do Consumidor, a nota técnica serve como fundamento para a ação de órgãos públicos e sinaliza ao mercado qual é a interpretação do governo sobre o tema, o que pode levar fabricantes e varejistas a revisar produtos, contratos e políticas. A iniciativa também abre um precedente jurídico importante sobre algo menos falado do que deveria, ampliando a discussão dos riscos do mundo digital para além de redes sociais, plataformas de IA e aplicativos. Vivemos cercados de dispositivos físicos conectados, que coletam nossas informações e impactam nossas vidas cada vez mais. E, sobre isso, a sociedade precisa estar muito mais atenta. Detalho tudo isso neste episódio.

    Brinquedos com IA criam novos riscos às crianças
  7. Jul 5

    Abusar da IA prejudica o seu cérebro

    Pílula de cultura digital para começarmos bem a semana 😊 Para o bem do nosso cérebro, já passou da hora de começarmos a usar bem a inteligência artificial, fugindo do hype. Muito se fala sobre o impacto da IA no nosso desenvolvimento, mas me deparei com outra perspectiva sobre o tema há alguns dias, durante uma conversa sobre ganhos e perdas do home office. Algumas coisas são óbvias, como ganhar na qualidade de vida e perder na experiência das trocas contínuas com os colegas. Foi quando me perguntaram se a IA agravaria ainda mais as perdas. E isso me fez pensar. Ao trocar o escritório pelo quarto de casa, deixamos de ter conversas inesperadas, conflitos, negociações e decisões compartilhadas, que alimentam um processo contínuo de aprendizagem. Mas o trabalho solitário ainda exige a fricção intelectual das tarefas, que preserva a ampliação de capacidades neurológicas, como neuroplasticidade, funções executivas, memória de trabalho e reconhecimento de padrões. Um uso inadequado da IA pode, sim, comprometer isso. Por “uso inadequado da IA”, eu me refiro a essa tecnologia assumir, de maneira sistemática, as partes mais difíceis de nossas atividades. Isso pode reduzir justamente os estímulos que promovem os maiores ganhos cerebrais. E, aqui, quero deixar claro que não sou contra o home office ou a IA, mas me preocupo com o fato de “abusos” de ambos poderem efetivamente nos atrapalhar. Especialistas não encontram soluções porque decoraram respostas, e sim porque enfrentaram centenas de situações difíceis ao longo da carreira. Cada problema resolvido ampliou seu repertório mental. Infelizmente, observo, como pesquisador e consultor, muito do uso inadequado da IA. Enquanto isso, proliferam artigos, debates e cursos que enaltecem seus ganhos, sem triscar nos seus riscos, como se ela fosse uma panaceia. Essa combinação é perigosíssima, e a sociedade precisa lidar com isso com urgência. Mas como fazer um bom uso da IA? É disso que falo neste episódio.

    Abusar da IA prejudica o seu cérebro
  8. Jun 29

    Quem manda nas notícias do seu feed

    Pílula de cultura digital para começarmos bem a semana 😊 Você acha que é você quem manda nas notícias que aparecem no seu feed? Quando o uso das redes sociais explodiu, ouvia-se muito que as pessoas não precisariam mais da imprensa, pois teriam a liberdade para escolher como se informar, indo direto às fontes dos fatos. Nas últimas duas décadas, essas plataformas vêm provocando mesmo grandes baixas na audiência do jornalismo, mas é um erro achar que elas nos oferecem tal liberdade. No jornalismo, uma notícia nasce com um repórter investigando o fato, um editor analisando sua importância e o veículo o publicando, seguindo critérios transparentes e conhecidos. Com as redes sociais, existem influenciadores, sistemas de recomendação e inteligências artificiais entre a informação e os usuários. Eles acreditam estar acessando as “fontes dos fatos”, mas acabam sendo iludidos por sistemas que filtram, priorizam e, cada vez mais, reescrevem as informações que consomem como verdades inquestionáveis. Não há preocupação com a veracidade ou com os interesses dos usuários, apenas a busca pelo engajamento a qualquer custo. Essa ilusão confortável funciona. Segundo o Digital News Report 2026, publicado no dia 16 pelo Instituto Reuters e pela Universidade de Oxford (Reino Unido), pela primeira vez as pessoas se informaram mais pelas redes sociais que pela imprensa. Na média de quase 100 mil pessoas analisadas em 48 países (incluindo o Brasil), 54% usam essas plataformas para se informar, contra 51% dos que usam a imprensa. Devemos tomar cuidado com a leitura superficial de que “as redes sociais venceram o jornalismo”, como tenho visto. O relatório mostra um cenário muito mais complexo, que ele chamou de “plataformização” da notícia. O risco disso não é que elas digam às pessoas como pensar, e sim que indiquem sutilmente sobre o que pensar. Isso influencia o debate público antes mesmo que qualquer opinião seja formada. Neste episódio, explico como isso impacta decisivamente o seu cotidiano.

    Quem manda nas notícias do seu feed

About

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor