La singularidad amable
La singularidad amableTraducción del artículo "The Gentle Singularity" de Sam Altman, CEO de OpenAI.
Sam Altman, CEO de OpenAI, escribió hace unos días un post titulado “The Gentle Singularity”. El texto ofrece una visión optimista de la relación entre la humanidad y la Inteligencia Artificial. Pese al obvio sesgo de quién se sabe líder de la industria, es un texto que resulta interesante, especialmente porque lo escribe una de las personas con más poder del planeta hoy en día. Es por eso que he decidido traducirlo al español y convertirlo en el envío de hoy. Sin más, os dejo con las palabras de Sam Altman. Ya hemos cruzado el horizonte de sucesos; el despegue ha comenzado. La humanidad está cerca de crear una superinteligencia digital, y hasta ahora resulta mucho menos extraña de lo que uno podría imaginarse. Los robots aún no caminan por las calles ni la mayoría de nosotros hablamos con la IA todo el día. La gente sigue muriendo por enfermedades, aún no podemos viajar fácilmente al espacio, y queda mucho por entender sobre el universo. Y, sin embargo, recientemente hemos construido sistemas que son más inteligentes que las personas en muchos aspectos, y son capaces de amplificar significativamente el rendimiento de quienes los usan. Los avances científicos que hicieron realidad sistemas como GPT-4 y o3 supusieron gran esfuerzo, pero nos llevarán muy lejos. La IA contribuirá al mundo de muchas maneras, pero las mejoras en calidad de vida gracias al progreso científico acelerado y mayor productividad serán enormes; el futuro puede ser mucho mejor que el presente. El progreso científico es el principal motor del avance general; es emocionante pensar en cuánto más podríamos lograr. En cierto sentido, ChatGPT ya ya tiene más capacidades que cualquier ser humano que haya existido. Cientos de millones de personas dependen de él diariamente y para tareas cada vez más importantes; una pequeña mejora puede generar un impacto enormemente positivo; un pequeño desajuste multiplicado por cientos de millones puede causar mucho daño. El año 2025 ha visto llegar agentes capaces de realizar trabajo cognitivo real; programar nunca será igual. Es probable que 2026 traiga sistemas capaces de descubrir nuevos conocimientos. Y quizás en 2027 ya veamos robots realizando tareas en el mundo real. Habrá mucha más gente capaz de crear software y arte, pero el mundo necesitará aún más de ambas cosas, por lo que los expertos seguirán destacando claramente sobre los principiantes, siempre que adopten las nuevas herramientas. En términos generales, la capacidad de una persona para hacer mucho más en 2030 de lo que podía hacer en 2020 será un cambio sorprendente, del que mucha gente descubrirá cómo beneficiarse. En lo esencial, la década de 2030 quizás no sea radicalmente diferente. Las personas seguirán amando a sus familias, expresando su creatividad, jugando y nadando en lagos. Pero en aspectos aún muy importantes, los 2030 serán radicalmente diferentes a cualquier época anterior. No sabemos cuánto más allá de la inteligencia humana podemos llegar, pero estamos a punto de descubrirlo. En 2030, la inteligencia y la energía —las ideas y la capacidad de materializarlas— se volverán abundantemente disponibles. Estos dos aspectos han limitado históricamente el progreso humano; con inteligencia y energía abundantes (y buen gobierno), podríamos teóricamente conseguir cualquier cosa. Ya convivimos con una inteligencia digital increíble y, tras el impacto inicial, la mayoría nos hemos acostumbrado bastante. Rápidamente pasamos del asombro ante un párrafo bien escrito por la IA a preguntarnos cuándo escribirá una novela completa; del diagnóstico médico salvador a esperar que desarrolle curas; o de un pequeño programa informático a desear que cree empresas enteras. Así es como avanza la singularidad: lo maravilloso se vuelve cotidiano, y luego algo normal. Los científicos ya nos dicen que son dos o tres veces más productivos que antes de la IA. La IA avanzada es interesante por muchas razones, pero quizá ninguna sea tan significativa como el hecho de que podamos utilizarla para investigar más rápidamente sobre la propia IA. Podremos descubrir nuevos sustratos informáticos, mejores algoritmos y quién sabe qué más. Si podemos hacer la investigación de una década en un año, o en un mes, el ritmo de progreso será obviamente muy diferente. De aquí en adelante, las herramientas que ya hemos creado nos ayudarán a obtener mayores conocimientos científicos y a desarrollar mejores sistemas de IA. Aunque esto no es lo mismo que un sistema de IA actualizando autónomamente su propio código, sí es una versión preliminar de una mejora recursiva. Existen otras dinámicas de refuerzo. El valor económico creado ha iniciado un ciclo virtuoso de construcción de infraestructuras para operar estos sistemas. Y los robots que pueden construir otros robots (y, en cierto sentido, los centros de datos que pueden construir otros centros de datos) no están tan lejos. Si tenemos que fabricar el primer millón de robots humanoides a la antigua usanza, pero luego pueden operar toda la cadena de suministro —excavar y refinar minerales, conducir camiones, dirigir fábricas, etc.— para construir más robots, que pueden construir instalaciones de fabricación de chips, centros de datos, etc., entonces el ritmo de progreso será obviamente muy diferente. Al automatizar la producción de centros de datos, el coste de la inteligencia debería acercarse al coste de la electricidad. (La gente suele tener curiosidad por saber cuánta energía consume una consulta ChatGPT; la consulta media utiliza aproximadamente 0,34 vatios-hora, similar al consumo de un horno en poco más de un segundo, o de una bombilla eficiente en pocos minutos. También usa alrededor de 0,000085 galones de agua; aproximadamente una decimoquinta parte de una cucharadita). Un agricultor medieval vería nuestros empleos actuales y diría que tenemos trabajos de mentira, y pensaría que sólo estamos jugando para entretenernos, ya que tenemos comida en abundancia y lujos inimaginables. Espero que dentro de mil años veamos igual los empleos del futuro, aunque seguro que quienes los realicen los encontrarán profundamente significativos y satisfactorios. El ritmo al que se lograrán nuevas maravillas será inmenso. Es difícil imaginar hoy lo que habremos descubierto en 2035; tal vez pasemos de resolver la física de partículas de alta energía un año a iniciar la colonización espacial al siguiente; o de un gran avance en la ciencia de los materiales a verdaderas interfaces cerebro-ordenador de gran ancho de banda. Mucha gente elegirá vivir su vida de la misma manera, pero al menos algunas personas probablemente decidirán “enchufarse”. Mirando al futuro, parece difícil hacerse a la idea. Pero probablemente vivirlo nos parecerá impresionante a la par que manejable. Desde una perspectiva relativista, la singularidad sucede poco a poco, y la convergencia ocurre de forma paulatina. Estamos escalando el largo arco del progreso tecnológico exponencial; siempre parece vertical mirando hacia delante y plano yendo hacia atrás, pero es una curva suave. (Piensa en 2020 y en cómo habría sonado tener algo cercano a la AGI en 2025, frente a lo que han sido en realidad los últimos 5 años). Enfrentamos serios desafíos junto con enormes ventajas. Debemos resolver cuestiones de seguridad y garantizar una distribución amplia de la superinteligencia por sus implicaciones económicas. El mejor camino a seguir podría ser algo así:
Estamos construyendo un cerebro para el mundo (toda la industria, no sólo OpenAI). Será extremadamente personalizado y fácil de usar para todos; estaremos limitados por las buenas ideas. Durante mucho tiempo, los perfiles técnicos del sector de las startups se han burlado de “los chicos de las ideas”; gente que tenía una idea y buscaba un equipo para construirla. Ahora me parece que están a punto de tener su día de gloria. OpenAI es muchas cosas ahora, pero antes que nada, somos una empresa de investigación de superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminado y las zonas oscuras retroceden rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos. La inteligencia tan barata que ni siquiera valga la pena medir su coste está claramente al alcance. Puede sonar descabellado, pero si en 2020 te hubiéramos dicho que íbamos a estar donde estamos hoy, probablemente habría sonado aún más increíble que nuestras predicciones actuales para 2030. Que escalemos de forma suave, exponencial y sin sobresaltos a través de la superinteligencia. |
Similar newsletters
There are other similar shared emails that you might be interested in: