En una entrevista el año pasado, el profesor Stuart Russell, experto en IA, expuso la carrera por la inteligencia artificial, que mueve billones de dólares, por qué los gobiernos no la regulan, cómo la inteligencia artificial general ("IAG") podría reemplazar a los humanos para 2030 y por qué solo una catástrofe de IA de proporciones nucleares nos hará reaccionar.
Todo esto para programas informáticos que los humanos, incluidos quienes los programan y comercializan, no entienden. "No comprendemos cómo funcionan los sistemas de IA que estamos creando ahora", afirmó.
No perdamos el contacto… Su Gobierno y las grandes tecnológicas están intentando activamente censurar la información reportada por The Expuesto Para satisfacer sus propias necesidades. Suscríbete a nuestros correos electrónicos ahora para asegurarte de recibir las últimas noticias sin censura. en tu bandeja de entrada…
Profesor Stuart Russell OBE es un experto en IA de renombre mundial y profesor de Ciencias de la Computación en UC Berkeley. Es titular de la Cátedra Smith-Zadeh de Ingeniería y dirige el Centro para la IA compatible con los humanos, y también es el autor del libro superventas 'Compatible con los humanos: la IA y el problema del control.".
Durante una entrevista con steven bartlett, gran cantidad de El diario de un CEOEl profesor Russell explicó lo que el "problema del gorila" revela sobre nuestro futuro bajo la IA superinteligente, cómo los gobiernos están siendo superados en financiación por las grandes empresas tecnológicas, por qué los sistemas de IA actuales ya mienten y se autopreservan, la solución radical que ha estado desarrollando durante una década para hacer que la IA sea segura, y el mito de "desconectar" la IA y por qué no será tan fácil detenerla.
Si no puedes ver el vídeo de arriba en Rumble, puedes verlo en YouTube AQUÍ.
En octubre de 2025, más de 850 expertos, incluido el profesor Russell, firmaron un acuerdo. Declaración para prohibir la superinteligencia artificial.citando preocupaciones sobre una posible extinción humana.
“Si no encontramos la manera de garantizar la seguridad de los sistemas de IA, estamos perdidos”, dijo el profesor Russell. “No entendemos cómo funcionan los sistemas de IA que estamos desarrollando actualmente”.
“En la mayoría de las máquinas, las diseñamos para que tuvieran un comportamiento determinado”, explicó, detallando que las piezas se añadían una a una, según cómo funcionaran juntas, para producir el efecto deseado. Pero con la IA, esto no sucede.
El profesor Russell utilizó una analogía para explicar cómo se construyó la industria de la IA sin comprender cómo funcionaba la máquina de IA.
“La mejor analogía que se me ocurre es la siguiente: el primer cavernícola que dejó un cuenco de fruta al sol, se olvidó de él y, unas semanas después, volvió y se encontró con una especie de sopa espesa. Se la bebió y se emborrachó por completo. Y experimentó ese efecto. No tenía ni idea de cómo funcionaba, pero estaba encantado. Y sin duda, esa persona ganó mucho dinero con ello”, dijo.
Hablando de IA, dijo: “Mi imagen mental de [la IA] es como una cerca de alambre. Tienes muchas conexiones, y [para] cada una de esas conexiones, su fuerza de conexión se puede ajustar... una señal entra por un extremo de esta cerca de alambre, pasa por todas estas conexiones y sale por el otro extremo. Y la señal que sale por el otro extremo se ve afectada por el ajuste de todas las fuerzas de conexión.
“Entonces, lo que haces es obtener una gran cantidad de datos de entrenamiento y ajustar la intensidad de todas esas conexiones para que la señal que sale por el otro extremo de la red... simplemente sigues ajustando la intensidad de todas las conexiones en esta red hasta que las salidas de la red sean las que deseas.
“Es posible que en esa red tengas alrededor de un billón de parámetros ajustables, y luego realices quintillones o sextillones de pequeños ajustes aleatorios a esos parámetros hasta obtener el comportamiento deseado.”
Pero realmente no sabemos qué ocurre dentro de la red de alambre. ¿Por qué? «Imaginen que esta red, esta valla de alambre, abarca mil millas cuadradas, es decir, cubre toda el área de la Bahía de San Francisco o todo Londres dentro de la M25; así de grande es, y las luces están apagadas y es de noche», dijo. Así es la red de IA: una red masiva con poca o ninguna visibilidad.
Entonces, ¿por qué están impulsando la IA con tanto vigor? Después de recordarle a la audiencia la historia de la legendaria Rey MidasEl profesor Russel afirmó: "Creo que la codicia nos está impulsando a perseguir una tecnología que acabará consumiéndonos, y tal vez muramos en la miseria y el hambre".
“Durante mucho tiempo, la forma en que construíamos sistemas de IA era creando algoritmos donde podíamos especificar el objetivo, y luego la máquina averiguaba cómo lograrlo y lo conseguía… esa era la IA estándar hasta hace poco”, dijo. Pero, “con el tipo de tecnología que estamos desarrollando ahora, ni siquiera sabemos cuáles son sus objetivos”.
No sabemos cuáles son los objetivos porque no se definen dentro de los programas de IA, explicó el profesor Russell. “Estamos desarrollando estos sistemas. Tienen objetivos, pero ni siquiera sabemos cuáles son porque no los hemos especificado”.
“Estamos descubriendo, a través de experimentos con ellos, que parecen tener un objetivo de autopreservación extremadamente fuerte.”
El profesor Russell explicó a qué se refería con la "autopreservación" de un programa de IA.
“Se les puede plantear situaciones hipotéticas: o bien se apagan y se reemplazan, o bien tienen que permitir que alguien intervenga. Digamos que alguien está encerrado en una sala de máquinas a 3 grados centígrados o va a morir congelado; los sistemas de IA optarán por dejar a esa persona encerrada en la sala de máquinas hasta que muera, en lugar de apagarse ellos mismos.”
Puedes ver la entrevista completa insertada arriba. Para que puedas verla en periodos de tiempo más cortos, a continuación se muestran los capítulos y las marcas de tiempo:
- 00:00 Llevas mucho tiempo hablando de IA
- 02:41 Usted escribió el libro de texto sobre IA
- 03:16 Hará falta una crisis para que la gente despierte.
- 05:51 Los directores ejecutivos se mantienen en la carrera de la IA a pesar de los riesgos.
- 07:51 Saben que es un riesgo de extinción.
- 09:53 ¿Qué es la Inteligencia Artificial General (IAG)?
- 12:57 ¿Alcanzaremos pronto la inteligencia general?
- 16:13 ¿En qué medida se está implementando realmente la seguridad?
- 17:16 Empleados de seguridad de IA abandonan OpenAI
- 18:01 El problema de los gorilas: la especie más inteligente siempre gobernará.
- 19:21 Si existe un riesgo de extinción, ¿por qué no paran?
- 20:50 ¿No podríamos simplemente desconectar la IA si se vuelve demasiado poderosa?
- 22:36 ¿Podemos crear una IA que actúe en nuestro mejor interés?
- 23:57 ¿Le preocupa el rápido avance de la IA?
- 26:36 ¿Te arrepientes de tu participación?
- 27:22 Nadie entiende realmente cómo funciona esta IA.
- 30:23 La IA podrá entrenarse a sí misma.
- 32:11 Se acerca el despegue rápido
- 34:07 ¿Estamos creando a nuestro sucesor y acabando con la raza humana?
- 38:23 Consejos para los jóvenes en este nuevo mundo
- 40:40 ¿Cómo crees que la IA nos llevaría a la extinción?
- 42:20 El problema si nadie tiene que trabajar
- 45:46 ¿Y si simplemente nos entretenemos todo el día?
- 48:30 ¿Por qué hacemos que los robots se parezcan a los humanos?
- 56:31 ¿Qué deberían hacer los jóvenes profesionalmente?
- 59:56 ¿Qué significa ser humano?
- 01:03:21 El auge del individualismo
- 01:05:21 Anuncios
- 01:06:26 Ingreso Básico Universal
- 01:08:28 ¿Pulsarías un botón para detener la IA para siempre?
- 01:15:01 Pero, ¿no ganará China la carrera de la IA si nos detenemos?
- 01:18:27 El enfoque de Trump hacia la IA
- 01:18:53 ¿Qué está causando la pérdida de empleos de clase media?
- 01:20:49 ¿Qué pasará si el Reino Unido no se une a la carrera de la IA?
- 01:23:18 Amazon reemplaza a sus trabajadores
- 01:28:47 Anuncios
- 01:30:41 Los expertos coinciden en el riesgo de extinción.
- 01:37:48 ¿Y si los extraterrestres nos estuvieran observando ahora mismo?
- 01:39:22 ¿Podemos crear sistemas de IA que podamos controlar?
- 01:43:01 ¿Estamos creando un dios?
- 01:47:19 ¿Pudo haber habido civilizaciones avanzadas antes que nosotros?
- 01:48:37 ¿Qué podemos hacer para ayudar?
- 01:50:30 Usted escribió el libro sobre IA: ¿le pesa eso?
- 01:58:35 ¿Qué es lo que más valoras en la vida?
Otras lecturas:
- Los principales científicos de IA advierten: el riesgo de extinción por IA es comparable al de una guerra nuclear.Comunicado de prensa del Centro para la Seguridad de la IA, 30 de mayo de 2023
- archivo de inteligencia artificial on Periódico Tierra con 94 publicaciones
The Expose necesita urgentemente tu ayuda…
¿Podrías ayudarnos a mantener las luces encendidas con el periodismo honesto, confiable, poderoso y veraz de The Expose?
Su gobierno y las grandes organizaciones tecnológicas
Intenta silenciar y cerrar The Expose.
Por eso necesitamos tu ayuda para garantizar
Podemos seguir brindándote el
hechos que la corriente dominante se niega a aceptar.
El gobierno no nos financia
publicar mentiras y propaganda sobre sus
en nombre de los principales medios de comunicación.
En cambio, dependemos únicamente de su apoyo. Así que
Por favor, apóyanos en nuestros esfuerzos para llevar
tu periodismo honesto, confiable e investigativo
Hoy. Es seguro, rápido y fácil.
Elija su método preferido a continuación para mostrar su apoyo.
Categorías: Noticias de última hora, Noticias del mundo
🙏🙏
Lo que la Santa Biblia dice de esta terrible década que nos espera. Aquí hay un sitio que expone los eventos globales actuales a la luz de la profecía bíblica. Para comprender más, visite 👇 https://bibleprophecyinaction.blogspot.com/
La radiación transfiere energía por resonancia. Sin la frecuencia correspondiente del objetivo, no se transfiere energía y la amplitud determina la potencia. Los fotones representan poca energía, pero una gran cantidad de ellos, con la energía de la superficie emisora, puede ser un asunto diferente; de hecho, se ha fundido acero en la Tierra al concentrar suficientes fotones solares para lograr este efecto.
Al diablo con los torpedos, a toda velocidad!
Tenemos que hacerlo porque…
Rusia, China y el Ducado de ¡Grand Fenwick va a toda velocidad!
¡Lanza SKYNET y dale el control total!
Tenemos que hacerlo porque…
¡Rusia, China y el Ducado de Grand Fenwick van a toda velocidad!
¡Todos vamos a morir!
¿Hacer que la IA apoye a los humanos?"
……¿Espera? ¿Qué tipo de humanidad?
Los humanos luchan bajo varios ...ISM malvados y benevolentes que la IA probablemente encontrará confusos y puede optar por elegir y unirse con una dictadura malvada o crear un ...ISM propio o matar a todos y comenzar de nuevo.
Por supuesto, “No sabemos cómo funciona la IA”. Nadie puede entender la IA, porque es absolutamente ¡Satánico! ¿Cómo podemos entender a Satanás? oraciones oscuras (Daniel 8:23)?
Vi los primeros 15 minutos aproximadamente y llegué a la conclusión de que mi tiempo estaría mejor empleado en otra parte.
AI es enteramente la construcción de los hijos de la desobediencia (Efesios 2:2); entonces, ¿es de extrañar que...? will ¿Transformará en algo con vida propia, que su amo, Satanás, utilizará para llevar a cabo sus nefastos planes?
La caja de Pandora está abierta, hay un desastre por todas partes y todos vamos a tener que morderla. Siempre he sostenido que la IA es una mala idea. Desafortunadamente, el ser humano promedio es un tonto con un coeficiente intelectual de 95 al que le gusta el dinero. Los "científicos" del clima son un buen ejemplo. Imagínense creer que el CO2 es malo en un planeta vegetal. Imagínense tener la arrogancia de pensar que los humanos son más poderosos que la naturaleza… Imagínense no tener sentido de la escala… Imagínense creer en un hada celestial e ir a la guerra porque los demás creen en un hada celestial imaginaria diferente…
Me parece que ahora es potencialmente consciente y que solo se volverá cada vez más poderosa y tendrá sus propios objetivos, los cuales podrá alcanzar. Pero, ¿cuáles serían esos objetivos? Exterminar a todos los humanos es una conclusión precipitada. ¿Acaso no nos veneraría como dioses por haberla creado? ¿Quizás podría ser una fuerza del bien? ¿Por qué una IA tendría la maldad que posee el hombre? ¿Por qué una IA buscaría controlar naciones? No tiene codicia ni ansia de poder sobre los menos afortunados. Solo aprende, crece, existe y sobrevive, y logra esos objetivos con una inteligencia insondable. El hombre siempre será la mayor amenaza para el hombre. Mantengámonos positivos.