MundoTecnología

Científicos dicen que en un futuro no se podrán controlar las máquinas súper inteligentes

1 Mins read

Según cálculos teóricos de científicos informáticos, los algoritmos no pueden contener una inteligencia artificial dañina.

Algunos científicos advirtieron sobre los peligros de una IA superinteligente incontrolable. Utilizando cálculos teóricos, un equipo internacional de investigadores, muestra que no sería posible controlar una IA superinteligente.

Los informáticos se han preguntado si seríamos capaces de controlar una IA superinteligente para asegurarnos de que no representaría una amenaza para la humanidad. Un equipo internacional de científicos informáticos utilizó cálculos teóricos para demostrar que sería fundamentalmente imposible controlar una IA superinteligente.

Los científicos dijeron que una máquina súper inteligente que controla al mundo puede sonar a ciencia ficción, pero que ya hay maquinas que realizan algunas tareas importantes de forma independiente sin que los programadores comprendan completamente como las aprendieron, por lo que surge la pregunta de si esto podría en algún momento volverse peligroso para la humanidad.

Los científicos han explorado varias posibilidades diferentes sobre cómo se podría controlar a una IA superinteligente. Por un lado, las capacidades de la IA superinteligente podrían limitarse específicamente, por ejemplo, al aislarla de Internet y de todos los demás dispositivos técnicos para que no tenga contacto con el mundo exterior, sin embargo, esto haría que la IA superinteligente sea significativamente menos poderosa, pero también menos capaz de responder a las necesidades de la humanidad.

Los científicos pensaron un algoritmo teórico de contención que garantizara que una IA superinteligente no pueda dañar a las personas bajo ninguna circunstancia, simulando primero el comportamiento de la IA y deteniéndolo si se considera dañino. Pero un análisis cuidadoso muestra que en nuestro paradigma actual de computación, tal algoritmo no se puede construir.

Según estos cálculos, el problema de la contención es incomputable, es decir, ningún algoritmo puede encontrar una solución para determinar si una IA produciría daño al mundo. Además, los investigadores demuestran que es posible que ni siquiera sepamos cuándo han llegado las máquinas súper inteligentes, porque decidir si una máquina exhibe una inteligencia superior a la de los humanos está en el mismo ámbito que el problema de contención.

Related posts
MundoSalud

La esperanza de vida mundial aumentará en casi 5 años para 2050

1 Mins read
La esperanza de vida en el mundo aumentará casi 5 años de aquí a 2050 pese a las amenazas geopolíticas, meteorológicas y… Share this:FacebookXLike this:Like Loading...
CienciaCuriosidadesMundo

Identifican estrellas que podrían albergar civilizaciones alienígenas

2 Mins read
La búsqueda de inteligencia extraterrestre se lleva a cabo actualmente mediante múltiples técnicas y en diferentes bandas de longitud de onda. Astrónomos… Share this:FacebookXLike this:Like Loading...
LatinoaméricaMundo

La gran mayoría provenimos o somos migrantes

2 Mins read
De una manera u otra la gran mayoría provenimos o somos migrantes. Hay actualmente 281 millones de migrantes y 117 millones de… Share this:FacebookXLike this:Like Loading...

Leave a Reply

Your email address will not be published. Required fields are marked *