Más Inteligente que Nosotros: El Auge de la Inteligencia de Máquina- Stuart Armstrong

¿Qué sucede cuando las máquinas se vuelven más inteligentes que los seres humanos? Olvídese de los terminadores. El poder de una inteligencia artificial (IA) proviene de su inteligencia, no de su fuerza física y de sus armas láser. Los humanos dirigen el futuro no porque somos los más fuertes o los más rápidos, sino porque somos los más inteligentes. Cuando las máquinas se vuelven más inteligentes que los humanos, les entregaremos el volante. ¿Qué promesas-y peligros-estas poderosas máquinas? El nuevo libro de Stuart Armstrong navega estas preguntas con claridad e ingenio. ¿Podemos instruir a los AIs a dirigir el futuro como deseamos? ¿Qué objetivos debemos programar en ellos? Resulta que esta pregunta es difícil de responder! Los filósofos han intentado durante miles de años definir un mundo ideal, pero no hay consenso. La perspectiva de una IA dirigida por un objetivo, más inteligente que la humana, le da a la filosofía moral una nueva urgencia. El futuro podría estar lleno de alegría, arte, compasión y seres que viven vidas valiosas y maravillosas, pero sólo si somos capaces de definir con precisión lo que es un mundo "bueno" y lo suficientemente calificados como para describirlo perfectamente a un programa de computadora. Los AI, como las computadoras, harán lo que decimos, lo cual no es necesariamente lo que queremos decir. Tal precisión requiere codificar todo el sistema de valores humanos para una IA: explicándolos a una mente que nos es ajena, definiendo cada término ambiguo, aclarando cada caso de borde. Por otra parte, nuestros valores son frágiles: en algunos casos, si definimos erróneamente una sola pieza del rompecabezas -digamos, conciencia- terminamos con aproximadamente el 0% del valor que pretendíamos cosechar, en lugar del 99% del valor. Aunque la comprensión del problema sólo está empezando a propagarse, los investigadores de campos que van desde la filosofía a la informática a la economía están trabajando juntos para concebir y probar soluciones. ¿Estamos a la altura del desafío? Matemático por formación, Armstrong es investigador del Future of Humanity Institute (FHI) en la Universidad de Oxford. Su investigación se centra en la teoría de la decisión formal, los riesgos y posibilidades de la IA, el potencial a largo plazo para la vida inteligente (y las dificultades de predecir esto) y la probabilidad antrópica (auto-localización). Armstrong escribió Smarter Than Us a petición del Machine Intelligence Research Institute, una organización sin fines de lucro que estudia los fundamentos teóricos de la superinteligencia artificial.