Quando os brinquedos alimentados por IA se tornam desonestos
Se você está pensando em comprar um ursinho de pelúcia falante para seu filho, provavelmente o está imaginando sussurrando orientações de apoio e ensinando sobre os costumes do mundo. Você provavelmente não os imagina envolvidos em dramatizações sexuais – ou dando conselhos a crianças sobre como acender fósforos. No entanto, foi isso que o grupo de pesquisa de interesse público (PIRG) descobriu em um teste recente de novos brinquedos para o período de férias. O ursinho de pelúcia AI da FoloToy, Kumma, que usa o modelo GPT-4o da OpenAI para potencializar sua fala, estava muito disposto a se perder quando conversava com crianças, descobriu PIRG. Usar o modo de voz dos modelos de IA para brinquedos infantis faz sentido: a tecnologia é feita sob medida para as bugigangas mágicas que as crianças adoram, deslizando facilmente nas prateleiras ao lado de bonecas realistas que fazem cocô e arrotam, e seres digitais semelhantes a Tamagotchi que as crianças querem experimentar e continue vivo. O problema é que, ao contrário das gerações anteriores de brinquedos, os dispositivos habilitados para IA podem ir além das respostas cuidadosamente pré-programadas e avaliadas que são adequadas para crianças. O problema com Kumma destaca um problema importante com os brinquedos habilitados para IA: eles geralmente dependem de modelos de IA de terceiros sobre os quais não têm controle e que inevitavelmente podem ser desbloqueados – acidentalmente ou deliberadamente – para causar dores de cabeça de segurança infantil. “Há muito pouca clareza sobre os modelos de IA que estão a ser utilizados pelos brinquedos, como foram treinados e que salvaguardas podem conter para evitar que as crianças encontrem conteúdos que não são apropriados para a sua idade”, afirma Christine Riefa, especialista em direito do consumidor na Universidade de Reading. Por causa disso, o grupo de defesa dos direitos das crianças Fairplay emitiu um aviso aos pais antes da época festiva para sugerir que se mantivessem afastados dos brinquedos de IA para o bem da segurança dos seus filhos. “Há falta de pesquisas que apoiem os benefícios dos brinquedos de IA e falta de pesquisas que mostrem os impactos nas crianças a longo prazo”, diz Rachel Franz, diretora do programa Young Children Thrive Offline da Fairplay. Embora a FoloToy tenha parado de vender o Kumma e a OpenAI tenha retirado o acesso da FoloToy aos seus modelos de IA, esse é apenas um fabricante de brinquedos de IA entre muitos. Quem é o responsável se as coisas correrem mal? Riefa diz que também aqui há falta de clareza. “As questões de responsabilidade podem dizer respeito aos dados e à forma como são recolhidos ou mantidos”, diz ela. “Pode dizer respeito à responsabilidade pelo brinquedo de IA que empurra uma criança para prejudicar a si mesma ou a outras pessoas, ou registra dados bancários de um dos pais.”
Publicado: 2025-12-22 21:59:00
fonte: www.fastcompany.com
