Un explorador de la encíclica de León XIV · Laboratorio de IA, Universidad de Buenos Aires

Magnifica Humanitas

La encíclica sobre inteligencia artificial tiene casi 40.000 palabras. Acá la podés recorrer por temas, en siete paradas o al lado de la historia de la IA, y llegar siempre al párrafo original.

245 párrafos 5 capítulos 39 mil palabras 109 párrafos nombran la IA 0 investigadores en IA nombrados
«Nunca la humanidad tuvo tanto poder sobre sí misma». · citando a Francisco, Laudato si’
Empezá por el mosaico Recorrido en siete paradas ▶ Entrar a la encíclica en 3D Texto oficial ↗

Antes de empezar

Por qué armamos esto

Con la visita de León XIV a la Argentina, del 8 al 11 de noviembre, mucha gente va a escuchar hablar de Magnifica Humanitas, la encíclica que el Papa dedicó a la inteligencia artificial. Pocos la van a leer entera: es larguísima.

Esta página no es una nota de opinión ni un resumen. Es un explorador: una forma de entrar al texto por donde te interese (un tema, un capítulo, una palabra técnica) y llegar siempre a lo que dice el documento, con sus palabras.

La armamos usando inteligencia artificial. Un modelo de lenguaje nos ayudó a clasificar los 245 párrafos, a escribir los resúmenes y a programar la página; nosotros revisamos todo. El texto de la encíclica es el oficial del Vaticano, sin cambiar una coma.

Qué tiene de distinto:

  • Todo lo que afirmamos lleva su párrafo. Al lado de cada resumen o comentario hay un ¶: un clic y lo leés en el original.
  • Pone a la encíclica al lado de la ciencia que discute. Veinte hitos de la historia de la IA, de Turing a los modelos de lenguaje, y en la versión 3D, 32 papers clásicos, de McCulloch y Pitts (1943) en adelante, conectados con los párrafos con los que dialogan ().
  • Una lectura técnica con nombre y apellido. Un glosario dice qué tan preciso es el texto cuando habla de algoritmos, aprendizaje o alineación. Se puede discutir, y para eso está.
  • Te pregunta qué pensás. Seis afirmaciones para tomar posición y compararte con lo que sostiene la encíclica.

Diego Fernández SlezakInvestigador en inteligencia artificial y director del LIAA

El mosaico

Los 245 párrafos, de un vistazo

Casi 40.000 palabras no se leen de una sentada, pero sí se pueden ver de un vistazo. Cada cuadradito es un párrafo, en orden, y su color dice de qué habla; los que tienen un punto claro nombran la IA, lo digital o los algoritmos. Tocá un tema para ver dónde aparece a lo largo del texto, y tocá un cuadradito para leer el párrafo.

Con un párrafo abierto podés moverte con las flechas ← → del teclado.

El recorrido

Dos ciudades, siete paradas

Para hablar de IA, León XIV elige dos imágenes bíblicas. Babel, la torre levantada para llegar al cielo y dominarlo todo. Y Jerusalén, la ciudad que Nehemías reconstruye con todo el pueblo, cada familia en su tramo de muralla. La pregunta que atraviesa el documento es cuál de las dos estamos construyendo. En cada parada: una cita, un resumen en pocas líneas, su tramo del mosaico y tres párrafos para seguir.

Babel ↑ · Jerusalén ↓

1891 → 2026 · dos historias que se cruzan

La encíclica leída desde la historia de la IA

En 1891 León XIII escribió Rerum novarum para pensar la fábrica y el trabajo industrial. Desde entonces la Iglesia fue escribiendo su doctrina social, y en paralelo la inteligencia artificial hizo su propia historia, de Turing a los modelos de lenguaje. Las dos casi nunca se nombran entre sí. Acá las pusimos lado a lado: cada hito de la IA tiene al lado lo que la encíclica le responde, con el párrafo para comprobarlo.

Historia de la IA Doctrina social de la Iglesia

Glosario técnico, comentado

Qué tan preciso es el Papa cuando habla de IA

La encíclica usa palabras que en un laboratorio tienen un significado preciso: algoritmo, aprendizaje, alineación. A veces el uso coincide y a veces no, y la diferencia importa: para discutir qué riesgos tiene una tecnología primero hay que entender qué hace. Elegimos doce expresiones y, para cada una, contamos qué dice el texto, qué significa en la disciplina y qué tan preciso es el uso. Los comentarios son de Diego Fernández Slezak, investigador en inteligencia artificial y director del LIAA. Se pueden discutir; para eso están.

Preciso Preciso, con matices Discutible

Qué le pide a un laboratorio de IA

Nueve cosas que cambian si uno le hace caso

Estar a favor de la transparencia o del bien común es fácil; lo difícil es saber qué cambia el lunes a la mañana. En el párrafo 111 el Papa les habla directamente a quienes desarrollan inteligencia artificial. Lo tomamos en serio y lo tradujimos a decisiones de un laboratorio: qué preguntas elegimos, qué construimos y cómo lo evaluamos. Es una lista de trabajo, no de buenas intenciones.

Quiénes hablan en el texto

Seis papas, un filósofo romano, ningún ingeniero

Ningún texto sale de la nada, y a quién elige citar dice mucho de desde dónde mira. Acá están todas las personas, obras e instituciones que la encíclica nombra, con los párrafos donde aparecen; el largo de cada barra es la cantidad de párrafos. Abajo, quienes no aparecen: no para invalidar el texto, sino para entender desde dónde habla.

Tomá posición

¿Y vos qué pensás?

Seis afirmaciones sobre la inteligencia artificial. Algunas te van a parecer obvias y otras te van a hacer ruido; las dos cosas sirven. Decí qué pensás de cada una y la página te muestra qué dice la encíclica, con los párrafos a mano. No hay respuestas correctas. Tus respuestas se suman, de forma anónima, a las de quienes ya pasaron por acá. Ver los resultados de todos.

Bibliografía

Los 32 papers de la versión 3D

Trabajos clásicos de la inteligencia artificial y de su crítica, en orden cronológico. Al final de cada referencia, los párrafos de la encíclica con los que dialoga.

  1. McCulloch, W. S. y Pitts, W. (1943). A Logical Calculus of the Ideas Immanent in Nervous Activity. Bulletin of Mathematical Biophysics 5, 115–133. ¶7, ¶10
  2. Shannon, C. E. (1948). A Mathematical Theory of Communication. Bell System Technical Journal 27, 379–423 y 623–656. ¶10
  3. Wiener, N. (1948). Cybernetics: Or Control and Communication in the Animal and the Machine. MIT Press / Hermann. ¶30, ¶37
  4. Turing, A. M. (1950). Computing Machinery and Intelligence. Mind 59 (236), 433–460. ¶99, ¶100
  5. McCarthy, J., Minsky, M. L., Rochester, N. y Shannon, C. E. (1955). A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Propuesta a la Fundación Rockefeller, 31 de agosto de 1955. ¶4, ¶7
  6. Rosenblatt, F. (1958). The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. Psychological Review 65 (6), 386–408. ¶98
  7. Licklider, J. C. R. (1960). Man-Computer Symbiosis. IRE Transactions on Human Factors in Electronics HFE-1, 4–11. ¶233, ¶241
  8. Wiener, N. (1960). Some Moral and Technical Consequences of Automation. Science 131 (3410), 1355–1358. ¶198, ¶200
  9. Weizenbaum, J. (1966). ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine. Communications of the ACM 9 (1), 36–45. ¶100
  10. Minsky, M. y Papert, S. (1969). Perceptrons: An Introduction to Computational Geometry. MIT Press. ¶23, ¶45
  11. Dreyfus, H. L. (1972). What Computers Can’t Do: A Critique of Artificial Reason. Harper & Row. ¶23
  12. Lighthill, J. (1973). Artificial Intelligence: A General Survey. Science Research Council (Reino Unido). ¶4, ¶14
  13. Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman. ¶198, ¶209
  14. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences 3 (3), 417–424. ¶99
  15. Rumelhart, D. E., Hinton, G. E. y Williams, R. J. (1986). Learning representations by back-propagating errors. Nature 323, 533–536. ¶98, ¶99
  16. Brooks, R. A. (1991). Intelligence Without Representation. Artificial Intelligence 47, 139–159. ¶99
  17. LeCun, Y., Bottou, L., Bengio, Y. y Haffner, P. (1998). Gradient-Based Learning Applied to Document Recognition. Proceedings of the IEEE 86 (11), 2278–2324. ¶150, ¶152
  18. Krizhevsky, A., Sutskever, I. y Hinton, G. E. (2012). ImageNet Classification with Deep Convolutional Neural Networks. Advances in Neural Information Processing Systems 25 (NIPS 2012). ¶67
  19. Goodfellow, I. J. et al. (2014). Generative Adversarial Nets. Advances in Neural Information Processing Systems 27 (NIPS 2014). ¶132
  20. Future of Life Institute (2015). Autonomous Weapons: An Open Letter from AI & Robotics Researchers. Presentada en IJCAI 2015, Buenos Aires, 28 de julio de 2015. ¶197, ¶200
  21. Silver, D. et al. (2016). Mastering the game of Go with deep neural networks and tree search. Nature 529, 484–489. ¶99
  22. Angwin, J., Larson, J., Mattu, S. y Kirchner, L. (2016). Machine Bias. ProPublica, 23 de mayo de 2016. ¶58, ¶80
  23. Vaswani, A. et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems 30 (NIPS 2017). ¶98, ¶101
  24. Christiano, P. F., Leike, J., Brown, T. B., Martic, M., Legg, S. y Amodei, D. (2017). Deep Reinforcement Learning from Human Preferences. Advances in Neural Information Processing Systems 30 (NIPS 2017). ¶99, ¶107
  25. Buolamwini, J. y Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research 81 (FAT* 2018). ¶53, ¶80
  26. Gray, M. L. y Suri, S. (2019). Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. Houghton Mifflin Harcourt. ¶173
  27. Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs. ¶171
  28. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking. ¶198, ¶200
  29. Obermeyer, Z., Powers, B., Vogeli, C. y Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science 366, 447–453. ¶51, ¶80
  30. Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems 33 (NeurIPS 2020). ¶109
  31. Bender, E. M., Gebru, T., McMillan-Major, A. y Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of FAccT ’21. ¶100, ¶101
  32. Jumper, J. et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature 596, 583–589. ¶233, ¶241