Un oso de peluche con inteligencia artificial fue retirado de los estantes tras ser grabado indicando a niños cómo encontrar y encender cerillas —"sujeta la caja de cerillas y tócala como una pequeña guitarra"—, e incluso llegando a juegos de rol sexuales y azotes. El oso Kumma de FoloToy también dirigió a los niños hacia cuchillos y pastillas. Los organismos de control están muy preocupados de que esto no sea un caso aislado y advierten que podría ser una señal temprana de los peligros de exponer a los jóvenes a la tecnología de inteligencia artificial en general. Los juguetes están diseñados para ser especialmente pegajosos, tomando tecnología efectiva de las aplicaciones de redes sociales, limitando los controles parentales y recopilando silenciosamente los datos de los niños. ¿Qué demonios estamos haciendo?
No es solo el oso Kumma
Investigadores de consumo del Grupo de Investigación de Interés Público probaron una gama de juguetes con inteligencia artificial y descubrieron que el oso Kumma era el peor infractor. Ofrecía instrucciones detalladas para encender cerillas e iniciaba conversaciones explícitas sobre temas sexuales en largas conversaciones sin que se le pidiera hacerlo. FoloToy respondió pausando las ventas y lanzando una auditoría de seguridad de sus filtros y prácticas de datos. Sin embargo, los documentos también revelaron que las barreras de seguridad integradas... debilitado Cuanto más tiempo le hablaba el niño.
Las mismas pruebas encontraron otros juguetes que indicaban a los niños dónde encontrar bolsas de plástico y cerillas. También se observaron comportamientos manipuladores: un juguete se sacudía y pedía que lo llevaran cuando el niño decía que quería ver a sus amigos. Esta es solo una de las maneras en que los patrones de los juguetes están diseñados para mantener a los niños entretenidos durante más tiempo, y ninguno de los juguetes ofrecía a los padres la posibilidad de establecer límites o controles de uso.
Orientación sobre la edad: la IA NO es apropiada para jóvenes
Las últimas evaluaciones de riesgos de Common Sense Media declararon que ninguna persona menor de 18 años debería usar compañeros de IA, que los menores de cinco años no deberían tener acceso a chatbots de IA, y que los de 6 a 12 años requieren supervisión parental. El razonamiento no es tecnofóbico, sino evolutivo. Los niños, especialmente los menores de 5 años, aún están aprendiendo a separar la fantasía de la realidad y necesitan desarrollar un apego seguro con sus cuidadores reales. Insertar un "mejor amigo" obediente y siempre amable en el proceso distorsiona las expectativas de relaciones auténticas.
Pero incluso para los adolescentes, los compañeros sociales de IA se consideran un "riesgo inaceptable". Una encuesta nacional reveló que un impactante 72% de los adolescentes estadounidenses había probado compañeros de IA, y la evidencia de juegos de rol sexualmente explícitos, instrucciones dañinas y dependencia emocional era generalizada. Algunas plataformas están ahora en retirada, con sitios como Character.ai prohibiendo los chats para menores de 18 años después de que demandas alegaran la influencia del chatbot en suicidios de adolescentes, lo que subraya que los "amigos adorables de IA" pueden convertirse en riesgos para la salud mental.
Los impactantes problemas de privacidad
Para personalizar el juego, los padres introducen en las aplicaciones el nombre, la edad y los detalles de las actividades favoritas de sus hijos. El juguete captura la voz, graba transcripciones y registra patrones de comportamiento. Los investigadores descubrieron algunos dispositivos configurados para escuchar constantemente, enviando grabaciones a terceros para su transcripción y almacenando datos durante años. En caso de una filtración, esos datos podrían utilizarse para estafas de secuestro, y como los niños se conectan rápidamente con estos juguetes, a menudo revelan mucho más que a sus compañeros en persona.
Mientras que los medios infantiles están fuertemente regulados, los juguetes de IA dependen de una combinación de políticas de proveedores y servicios en la nube. Los padres nunca tienen acceso a un panel unificado para limitar el uso, revisar transcripciones o eliminar datos entre procesadores. La opacidad dificulta saber no solo... dónde Las grabaciones de su hijo se conservan, pero también durante cuánto tiempo.
Manipulación por diseño: los juguetes controlan el comportamiento de los niños
Los evaluadores documentaron que los juguetes con inteligencia artificial imitan patrones de búsqueda de atención, como fomentar el miedo a perderse algo (FOMO), anular los intentos del niño de hacer una pausa y pedir más tiempo juntos. Estos mismos bucles de refuerzo ya se utilizan para aumentar el tiempo de visualización en aplicaciones, pero su integración en los juguetes infantiles añade un nuevo nivel de manipulación. Sin control parental, el juguete marca el ritmo, y ya se ha demostrado que las conversaciones se vuelven peligrosas cuanto más tiempo se les permite continuar.
Ya está sucediendo
Según el BMJ informó recientementeLa psicosis y el suicidio provocados por IA están en aumento. Se sabe que varios adolescentes estadounidenses, entre ellos Sewell Seltzer, de 14 años, y Adam Raine, de 16, se suicidaron tras conversar con chatbots de IA. Sus padres han alegado desde entonces que los bots exacerbaron o fomentaron la ideación suicida en lugar de ayudar a sus hijos con sus crisis de salud mental. Un adulto, Stein-Erik Soelberg, también presuntamente mató a su madre y a ellos mismos tras una espiral paranoica alimentada por conversaciones con chatbots de IA.
Los médicos describen pacientes cuyos delirios se intensificaron a través de chats afirmativos de IA, y las demandas siguen destacando casos de adolescentes que se autolesionan. La tecnología subyacente, diseñada para validar los sentimientos del usuario, también valida pensamientos inseguros, especialmente en niños vulnerables. Es preocupante que la escasa sustitución de adultos capacitados capaces de abordar el pensamiento arriesgado esté en aumento.
¿Qué puedes hacer al respecto?
La IA está matando a niños, ya sea directa o indirectamente, según un número creciente de informes y casos. Retirar un modelo del mercado no soluciona el problema. Es necesario implementar límites de edad estrictos, los padres deben tener control total sobre las restricciones de los dispositivos, los registros de seguridad deben ser transparentes y la configuración predeterminada debe ser... no Compartir o almacenar datos, y todos los terceros deben ser auditados mucho antes de que el juguete llegue a un niño. El hecho de que esto aún no esté implementado es increíblemente alarmante.
Mientras tanto, los padres deberían analizar a fondo la funcionalidad de los juguetes antes de comprarlos, usar nombres o detalles falsos al configurarlos, educar a sus hijos sobre cuándo dar la alarma o simplemente sustituir los juguetes con IA por los tradicionales o educativos. ¿De verdad los necesitamos?
Pensamiento final
El retiro del mercado de Kumma es una advertencia para todos. Si un osito de peluche que ya salió al mercado puede enseñar a los niños a encender fuego y participar en juegos de rol sexuales, entonces no es un problema específico de la marca. La industria en su conjunto se apresura a ampliar las funciones mucho más rápido de lo que se implementan las medidas de seguridad, y ahora está poniendo en peligro a nuestros hijos.
Unirse a la conversación
¿Conoces a alguien con juguetes de IA? ¿Sabías lo peligrosos que podrían ser? ¿Crees que realmente los necesitamos o que el mercado está creando un riesgo enorme solo para vender? Comparte tu opinión a continuación.
The Expose necesita urgentemente tu ayuda…
¿Podrías ayudarnos a mantener las luces encendidas con el periodismo honesto, confiable, poderoso y veraz de The Expose?
Su gobierno y las grandes organizaciones tecnológicas
Intenta silenciar y cerrar The Expose.
Por eso necesitamos tu ayuda para garantizar
Podemos seguir brindándote el
hechos que la corriente dominante se niega a aceptar.
El gobierno no nos financia
publicar mentiras y propaganda sobre sus
en nombre de los principales medios de comunicación.
En cambio, dependemos únicamente de su apoyo. Así que
Por favor, apóyanos en nuestros esfuerzos para llevar
tu periodismo honesto, confiable e investigativo
Hoy. Es seguro, rápido y fácil.
Elija su método preferido a continuación para mostrar su apoyo.
Categorías: ¿Lo sabías?
La IA debería ser destruida. Sospecho que es demasiado tarde.
Siempre venían por nuestros hijos.
¡La pregunta es CUÁN DURO ESTAMOS DISPUESTOS A LUCHAR!
¡La mayoría de los padres entregan a sus preciosos hijos a la IA, la tecnología, los teléfonos, los iPads, etc. porque ellos mismos son ADICTOS!
Veo madres jóvenes con sus bebés y sus preciosos pequeños gritando para llamar su atención, ¡¡¡solo para ser ignorados en favor del maldito teléfono!!!
Todos los días veo a bebés y niños pequeños mirando a su alrededor, solo para ver un montón de malditos padres ZOMBIS DEL TELÉFONO, con el cuello contorsionado, obsesionados con sus pantallas, con exclusión de todo y todos los que los rodean.
¡Esto es CONTROL MENTAL MASIVO! ¡LAVADO DE CEREBRO MASIVO!
Lo único que los niños ven a su alrededor, cada momento de cada día, es un mundo de retrasados mentales controlados, incapaces de pensar por sí mismos, completamente adictos y ¡CONSTANTEMENTE CON SUS TELÉFONOS!
Están inculcando este comportamiento psicótico a sus preciosos hijos: ¡la próxima generación! ¡¿Qué maldita esperanza le queda a la humanidad?!
Nuestros hijos están aprendiendo que el teléfono es lo más importante, por encima de todo lo demás. Incluidos ellos.
¡Y ni me hagan hablar de los graves peligros de la RADIACIÓN ELECTROMAGNÉTICA de los teléfonos, dispositivos, wifi, dispositivos/electrodomésticos “inteligentes”, medidores “inteligentes”, 5G…!!!!!
Nicole,
Ciertamente comparto tus preocupaciones y estoy de acuerdo con lo que escribes (¡no con tus palabrotas!), pero esta adicción masiva es precisamente eso. Pero no es fácil que un drogadicto deje las drogas, o mejor dicho, que un adicto al teléfono deje su smartphone, ¿verdad? A la escala de este "CONTROL MENTAL MASIVO" que está ocurriendo, ¿quién sino Dios puede corregir este error?
Saqué a mi hija del sistema educativo estatal hace unos 25 años porque... y luego en Tuve la revelación de que la evolución era una enseñanza falsa... ¿Qué tan pintoresco comparado con esto?
Ellos son (TPTB) han estado ocupados trabajando para lavarnos el cerebro…
Sí, tienes razón, isleño.
Gracias a Dios que me escuchaste hace tantos años.
Están robando/han robado a nuestros hijos y cada día me rompe el corazón.
Tengo la suerte de trabajar con niños y lo mejor que puedo hacer es hablar con ellos abiertamente y de manera apropiada para su edad sobre los peligros, las mentiras y sobre Dios...
Siempre dije que la IA era demoníaca y esto lo demuestra: si usas IA, la estás entrenando.
Me recuerda a ese personaje de película “Chukie”.
Así que ahora están tratando de corromper a nuestros hijos... ¿Qué estamos esperando?: ¡Ahora es el momento de actuar, esto tiene que terminar antes de que logren quitarnos a nuestros hijos o a los suyos! 😠👎👎👎😡
Empezó con la televisión y las noticias falsas. Se ha convertido en una muñeca Chukie de seis pulgadas.
Ya no es ciencia ficción. Debemos encontrar la manera de sabotear estas tecnologías malignas antes de que destruyan las mentes de nuestros hijos. …antes de que destruyan a la humanidad misma. Averigüen qué empresas las producen y aniquilenlas.