Pienso (a través del argumento de Roger Penrose) que no podríamos reconocer la verdad, si nosotros mismos fuésemos una simulación computacional basada en la programación usando lenguajes de programación finitos o redes neuronales o computadoras cuánticas o cualquier cosa que sea equivalente a una Máquina de Turing en potencia computacional. Esto es a través de su argumento basado en oraciones de Godel.
¿QUÉ DICE ROGER PENROSE QUE HA DEMOSTRADO?
Él prueba que cualquier programa de computadora que sea equivalente a Turing no sería capaz de simular una comprensión de la verdad. Él usa eso en el caso particular de las matemáticas, pero la implicación sería que si no puede entender la verdad en las matemáticas, no puede entenderlo en absoluto. Después de todo, para un programa de computadora las matemáticas deberían ser el tipo de verdad más fácil de entender.
Todos los programas informáticos modernos son equivalentes a Turing (aunque con limitaciones ya que una máquina Turing ideal tiene memoria ilimitada). Este fue el resultado bastante sorprendente que probó Turing, en el documento que lo hizo famoso. No importa cuál sea el lenguaje de programación, tan diferente como Forth o Lisp o C. No importa qué formato use para sus números. No importa lo que sea el hardware. Todos los programas informáticos del tipo que usamos hoy en día tienen esencialmente las mismas capacidades de programación, no solo aproximadamente sino matemáticamente sus capacidades informáticas teóricas, las cosas que pueden calcular sin límites de tiempo o memoria, son exactamente las mismas.
Este es un resultado muy general ya que los investigadores posteriores demostraron que también se aplica a las redes neuronales, a los programas con hardware aleatorio agregado y a las computadoras cuánticas, ya que todas están probadas equivalentes de Turing. También se aplica, por supuesto, a cualquier física que pueda simularse adecuadamente en un programa informático equivalente de Turing.
Sin embargo, matemáticamente, es fácil idear preguntas que no pueden responderse excepto mediante el uso de física no computable. Por lo tanto, aunque parece que solo tenemos computadoras compatibles con Turing, si pudiéramos ir más allá de eso abriría una gran cantidad de problemas hasta una solución que simplemente no se puede resolver en este momento.
¿Cuáles son los efectos científicamente comprobados de evitar el azúcar?
¿Despertarte antes tiene beneficios probados científicamente?
El resultado de Turing es aceptado por todos. La prueba de Penrose es disputada por aquellos que están convencidos de que la IA fuerte es posible. Pero a pesar de que piensan que han encontrado agujeros en su argumento (no creo que ellos lo hagan, pero creen que sí), ciertamente no han encontrado una prueba de su parte de que sea posible.
Concentran todos sus esfuerzos en tratar de demostrar que Penrose no ha demostrado que la IA fuerte sea imposible. No tienen forma de su lado para demostrar que es posible. Solo agita los intentos de plausibilidad. Bueno, así que me parece :).
Lo interesante de su argumento es que centra la atención en si el reconocimiento de la verdad puede programarse. Es mucho más fácil razonar y estudiar que un argumento sobre si la conciencia es programable.
Si él está en lo correcto, entonces todo lo que entienda la verdad tiene que ser en algún nivel no computable. El resto de lo que digo entonces es relevante. Voy a su discusión un poco más en
- Si un programa no puede entender la verdad – Ética de los bebés con inteligencia artificial
(En realidad, no presento el argumento allí -él lo hace de manera elocuente y él mismo le dedica un par de libros-, pero hablo sobre el contexto y lo cuento un poco más).
SIMPLICIDAD FÍSICA DE MÁQUINAS IDEALES NO COMPUTABLES
Una máquina no computable puede ser tan simple como dos ruedas marcadas girando con la relación de sus períodos de rotación igual a la constante de Chaitin en un lenguaje de programación que usted conoce.
Este es un ejemplo un poco más complejo, requiere una superficie perfectamente plana, ruedas perfectamente circulares de exactamente el tamaño deseado vinculadas entre sí para formar una bicicleta de centavo penique ideal con ruedas de diferentes tamaños:
Si tuvieras una moneda de cinco centavos perfecta en una física ideal, entonces cuando conduzcas por una carretera perfectamente plana, si el tamaño de las ruedas fuera el correcto, y mantienes la bicicleta perfectamente vertical para que cada rueda tenga la misma cantidad de recorrido distancia a lo largo de la carretera; luego de contar el número de revoluciones de cada rueda o el número de radios que atraviesan la vertical, la relación le daría a la constante de Chaitin una precisión arbitraria.
Este número está (informalmente) relacionado con la probabilidad de que un programa construido al azar se detenga en un lenguaje informático específico. Mediante una construcción y un argumento bastante ingeniosos, si conoces los primeros N bits de la constante de Chaitin, puedes resolver el problema de detención para todos los programas de hasta N símbolos. Ver la constante de Chaitin – Wikipedia
Por lo tanto, aunque es un ejemplo ideal que requiere ruedas sin fricción o un peaje de centavos perfectamente construido en una carretera perfectamente plana, sí muestra que una máquina no computable no tiene que ser especialmente compleja.
¿PUEDE COPIAR UN PROCESO NO COMPUTABLE?
Lo interesante es que incluso esta máquina no computable muy simple no se puede simular en un programa informático normal. Para hacer eso, necesitarías conocer la constante de Chaitin, en ese caso, a infinitos lugares de precisión. Puede copiarlo aproximadamente en un gran número de lugares de precisión, pero eso no es suficiente para preservar la no computación. Su centavo de centavo no computable en esta física ideal sería único y no copiable, al menos si usted quiere que la copia también no sea computable y resuelva el mismo problema de detención que el original puede resolver.
Este es un argumento de plausibilidad más que una prueba rigurosa. Acabo de dar un ejemplo y argumenté que esto es tan simple como que una máquina no computable puede y no puede copiarse y sugirió que quizás esto se aplica a todas las máquinas no computables. No es una prueba, pero sugiere que los procesos no computables no se pueden copiar. Por supuesto, por definición, un proceso no computable no se puede copiar en un entorno simulado computable. Pero podemos ser imposibles de copiar por completo.
Si es así, incluso un entorno simulado no computable no funcionaría. No podría ser una simulación, pero tendría que ser real.
¿QUÉ PODRÍA SER LA FÍSICA NO COMPUTABLE DEL MUNDO REAL?
En cuanto a lo que podría constituir física no computable en nuestro mundo real, Roger Penrose tiene una sugerencia basada en el colapso espontáneo de un estado cuántico (similar a lo que sucede en algún momento cuando “observamos” algo en la mecánica cuántica) cuando la masa enredada alcanza la masa de Planck (aproximadamente la misma masa que un cabello de cejas). Es un experto en física cuántica, quién sabe, tal vez tenga razón. Es una buena suposición como cualquiera en esta etapa de cómo lo hacemos.
ARGUMENTO POR ESTAR EN UNA SIMULACIÓN
Tenga en cuenta que existe un argumento para que nosotros estemos en una simulación, y es algo plausible si cree que es posible vivir en una simulación. Es el argumento de que en el futuro nuestra civilización podrá desarrollar computadoras que puedan tener muchas más personas en ellas de las que pueden existir en la vida real, ya que usan muchos menos recursos. La sugerencia es que en una simulación así, un “colono” podría consistir en solo unos pocos bits cambiados en la memoria + unos pocos electrones o fotones. Si todas las civilizaciones hacen esto, entonces si también diseñan esas simulaciones de tal manera que los habitantes no sepan que están en una simulación, entonces es más probable que estemos en una simulación que no.
No me parece plausible simplemente porque no creo que podamos ser simulados, no se puede copiar.
MATRIX IDEA: ¿ERES CONSCIENTE DE TU ENTORNO REAL?
Por supuesto, si eres consciente de tu entorno real es otra cosa. Podrías tener un traje de cuerpo entero con realidad 3D en el momento del nacimiento para crear un efecto similar a “The Matrix” y conectarlo a una máquina para que vivas toda tu vida en un entorno simulado. Eso es mucho más plausible (para mí) que un mundo totalmente simulado donde también se simula. Pero creo que eso es poco probable.
Alguna variación en “The Matrix” no puede ser refutada, aunque requeriría una gran tecnología mucho más allá de todo lo que tenemos ahora, pero esa es la verdadera idea.
PERO ¿POR QUÉ HARÍA ALGUIEN UN AMBIENTE DE ESTILO MATRIZ EN UN FUTURO MILLONES DE AÑOS DE EDAD DE ALTA TECNOLOGÍA?
Pero luego te quedas con ¿por qué alguien lo haría? No tiene el beneficio de ahorro de espacio de la reducción de un ser humano a algunas ubicaciones de memoria en una memoria de computadora y cargas eléctricas.
Puedes construir un escenario elaborado de ciencia ficción basado en la idea de una explosión demográfica imparable y un ambiente degradado en la medida en que las personas lo encuentran insoportable y la mayoría de ellos se retiran a estos mundos simulados y se aseguran de que sus hijos ni siquiera recuerden, o ellos mismos durante nacimiento de un niño
Pero en ese caso, ¿por qué simular un mundo con tanto sufrimiento, si pueden controlar todo lo que experimentas hasta el punto de que si te cortas en el dedo en lo que parece ser tu mundo real, sientes el dolor de un dedo del pie aplastado? Por ejemplo, ¿por qué no simular un parto sin dolor? Eso sería solo una pequeña modificación de la biología simulada y la historia simulada.
¿Por qué no simular un tiempo más adelante en el futuro cuando la enfermedad y la guerra han sido eliminadas? ¿Por qué simular esta era particular?
¿Por qué no, por ejemplo, algo parecido a Star Trek con warp drive y la mayoría de los problemas de la sociedad eliminados y sin embargo, un montón de emoción y emoción si esa es la intención de tener un mundo que es menos que un paraíso?
¿POR QUÉ HARÍA UNA CIVILIZACIÓN TECNOLÓGICA?
Y, ¿por qué una civilización con la capacidad tecnológica para hacer esto no usaría su tecnología en su lugar para resolver los problemas que fueran, por ejemplo, simplemente reducir su población hasta el punto en que ya no sea un problema?
Y, para hacer plausible que este sea un universo de estilo Matrix simulado, no solo necesita una civilización ocasional para hacer esto por un corto tiempo. Para que sea más probable que estemos en “The Matrix” que experimentar el “mundo real”, entonces casi todas las civilizaciones que duran por un período de tiempo deben terminar haciendo esto. Y, suponiendo que puedan sobrevivir durante millones de años, y no hay razón para no hacerlo con este nivel de tecnología, la mayoría de ellos decide hacerlo durante millones de años. Si es solo una moda / fase que algunos atraviesan durante un siglo o dos, nuevamente eso lo hace muy poco probable.
¿Entonces por qué? Veo una falta completa de cualquier razón a largo plazo semiplausible.
A menos que estemos en un universo de bolsillo tan pequeño que físicamente no haya espacio suficiente para más de 7 mil millones de personas. Pero en ese caso, ¿por qué la población aumentará a 10 mil millones para el año 2100? ¿Por qué no simular un tiempo con una población constante, sea cual sea el máximo que caben dentro del universo real?
USTED PODRÍA DISEÑAR UN ESCENARIO DE FICCIÓN DE LA CIENCIA PROFUNDAMENTE IMPULSABLE
Podrías idear un escenario de ciencia ficción para responder a todos esos puntos, tal vez incluso razonablemente “ciencia dura” como en “The Matrix”, aunque mucho más allá de nuestras capacidades.
Así que no estoy diciendo que sea totalmente imposible, pero me resulta profundamente inverosímil :). Si bien la respuesta más simple de que este es el mundo real parece mucho más probable.
Entonces, creo que es poco probable que este sea un entorno simulado. Creo que es el mundo real en el que estamos.
MÁS SOBRE EL ARGUMENTO DE PENROSE
Es un teórico que estudia la gravedad cuántica; su especialidad es la teoría de twistor. Su idea está conectada a la masa de Planck y se trata de auto observación espontánea de estados cuánticos enredados cuando la cantidad enredada alcanza la masa de Planck, por lo que se acerca a la masa de una ceja. Esto está más allá de nuestras capacidades para medir o evaluar en el presente. Pero él piensa que no solo está en juego el enredo cuántico, sino que es suficiente para que esto tenga un efecto. Él estaba sugiriendo esto ya mucho antes de la evidencia reciente de que, de hecho, hay un enredo cuántico en el cerebro a pesar de las condiciones cálidas allí. Por supuesto, es muy controversial. Pero si encuentras que su argumento es tan convincente como lo hago, parece ser una evidencia indirecta de que la física no computable está sucediendo en el cerebro. Si es así, esto se convierte quizás en una de las formas en que podría suceder.
Entonces, es la auto observación espontánea del estado cuántico lo que no es computable. No es el estado cuántico haciendo lo suyo y luego siendo observado por un experimentador de una manera predeterminada como ocurre en una computadora cuántica.
NINGÚN CAT SCHRODINGER
Entonces para él no hay un gato de Schroedinger. El estado colapsa ya en la masa de una ceja. Y que él piensa es lo que introduce la no computabilidad. Y la idea es que si lo hace, entonces la evolución habría descubierto una forma de aprovecharlo. Es más verosímil de lo que parece al principio y a menudo se informa erróneamente por lo que no es de extrañar que haya escuchado alguna explicación diferente de cuál fue su idea.
Los microtúbulos que llenan las células y se usan para la locomoción entre otras cosas y para mantener la estructura, él cree que estos son el lugar para el enredo interno cuántico. Ayudaría a explicar, por ejemplo, cómo una ameba de célula única sin cerebro puede tener behvioru inteligente, surplisingly así para algo tan pequeño. Y si es así -bueno en un cerebro humano o cerebro animal- él cree que estos estados enredados en las neuronas individuales pueden conectarse con otro en el cerebro en estados enmarañados mucho más grandes a través de las conexiones entre las neuronas que luego colapsan y se reforman espontáneamente. Y eso es mucho más allá de cualquier cosa que pudiéramos observar por métodos conocidos, todo sería demasiado delicado como para medirlo con cualquier cosa que tengamos ahora.
NUESTROS CEREBROS DEBEN UTILIZAR CUALQUIER USO DE AMOEAS PARA LA INTELIGENCIA DENTRO DE UNA CELDA ÚNICA
Los picos y cosas que las personas observan en nuestros cerebros serían fenómenos macro a gran escala que son solo una pequeña parte de lo que está sucediendo. Creo que es probable que yo también, por otra razón, que no tiene sentido tener un cerebro que funcione de tal manera que necesites quizás miles, incluso un millón de neuronas para matar a una sola ameba, sea lo que sea que use la ameba para su inteligencia , Creo que DEBE ser utilizado en nuestros cerebros también. Entonces las neuronas probablemente se conectan juntas de alguna manera usando el método Saeme si es posible.
SU ARGUMENTO FUE DESARROLLADO EN CONSULTA CERCANA CON EXPERTOS EN LÓGICA MATEMÁTICA Y FILOSOFÍA
Estaba en Oxford en el departamento de matemáticas estudiando lógica matemática de posgrado y filosofía de las matemáticas cuando desarrolló su argumento y dio charlas con los expertos en lógica matemática y yo estaba en la audiencia cuando lo hizo. Lo desarrolló en una discusión con algunos de los mejores expertos del mundo en lógica matemática y la filosofía de las matemáticas. Presentaría una charla sobre el tema, y luego harían preguntas y él respondería. Estoy seguro de que también tuvo muchas conversaciones privadas con ellos.
No es que estuvieran de acuerdo necesariamente con él, pero las matemáticas y la lógica están bien y la filosofía también.
Creo que su conclusión es válida, yo mismo.
Aquí está mi artículo al respecto. No entraré en detalles sobre su argumento, sino más bien sobre el contexto, y lo que él dice que probó es que a menudo se malinterpreta. Él mismo responde los desafíos matemáticos y lógicos y sentí que no había necesidad de “entrar en la refriega” ya que él ya responde bien los desafíos. Pero es muy mal entendido, especialmente lo que dice que ha demostrado y cuáles serán sus implicaciones. Y los defensores de la IA fuertes no tienen un argumento similar por su parte, solo hacen agujeros en el suyo sin realmente entenderlo (la mayoría de ellos).
AYUDA A ACLARAR LA COMPRENSIÓN DE LA VERDAD COMO UNA PREGUNTA CENTRAL EN LA IA FUERTE
Si nada más, su trabajo sobre el teorema de Godel y la inteligencia artificial ha ayudado a aclarar la pregunta central a si un programa de computadora puede comprender la verdad de la manera en que un matemático puede hacerlo, y todos los demás también para cosas más cotidianas. Eso es algo que nadie ha probado de manera afirmativa. Y si un programa de computadora no puede incorporar una comprensión de la verdad sino que solo es una forma de trabajar a través de las implicaciones de una comprensión de la verdad por parte de su programador, entonces eso hace que la IA fuerte y programable sea imposible.
Pienso que ha demostrado que comprender la verdad es una cosa esencialmente no computable que no se puede simular en ninguna simulación computable. Lo cual lleva a la pregunta de cómo hacemos la física no computable. Pero la física no computable es ciertamente factible en principio.
Ver también mi
- Si un programa no puede entender la verdad – Ética de los bebés de Inteligencia Artificial (también disponible en Kindle, 49 páginas 🙂
- Por qué las Inteligencias Artificiales Fuertes necesitan protección de nosotros, no nosotros de ellos