Es fácil dejarse atrapar por las narrativas y los tokens de rápido movimiento, siguiendo la narrativa actual de agentes de IA. De hecho, lanzaremos una cobertura dedicada a agentes de IA cada semana; asegúrate de leer nuestros correos electrónicos en los próximos días para más detalles.
Pero también es importante adoptar una visión más amplia de la IA en general y no centrarse únicamente en la rama específica de cripto que ha surgido en los últimos meses. Incluso podría haber ‘alpha’ al leer entre líneas y observar cómo ideas externas al cripto pueden fluir hacia el sector. Con los agentes y la gobernanza, hemos visto cómo ideas promovidas por a16z y otros líderes de pensamiento de Silicon Valley terminan influyendo en cripto.
La semana pasada, obtuvimos ideas de una entrevista con Emad Mostaque, fundador de Stability AI, que ahora ha llevado su talento al cripto. Para quienes no leyeron esta edición, el tema principal era que hay una enorme cantidad de beneficios al utilizar las ofertas de IA existentes para casos de uso productivos a nivel social, en lugar de avanzar a ciegas por el camino hacia AGI/ASI solo por hacerlo.
En la edición de hoy, buscaremos una fuente interesante de inspiración en lo que respecta al tema de la ‘ética’ de la IA y el camino por delante; el Vaticano.
Mantente informado en los mercados ⬇
Las sociedades de todo el mundo han utilizado tradicionalmente la religión como medio para establecer un marco de valores. En el mundo occidental, este marco ha sido el cristianismo, con el Vaticano históricamente como punto de partida desde el cual surgieron leyes, filosofía, diplomacia y más, como sede de la Iglesia Católica Romana.
En tiempos recientes, los países occidentales se han orientado más hacia el secularismo, con la religión desempeñando un papel menos destacado que en épocas anteriores. La IA tiene el potencial de reavivar conversaciones sobre ética, religión y todo lo intermedio, ya que la tecnología puede cambiar drásticamente la sociedad tal como la conocemos. De hecho, el propio Vaticano ya ha comenzado a reflexionar sobre este asunto, publicando sus propias ‘Directrices sobre Inteligencia Artificial’.
Para ahorrar tiempo, explicaremos la esencia de los primeros artículos, que podrían considerarse los más importantes, para hacerse una idea del documento en general. En total hay 15 artículos, divididos en tres capítulos.
Capítulo Uno:
¿Qué es la IA? - Este 1.º artículo proporciona los criterios para definir la IA, citando específicamente:
Procesos y sistemas de cálculo automatizados
Capacidad tecnológica de los modelos para adaptarse de forma autónoma
Uso de aprendizaje automático para realizar tareas que normalmente realizan los humanos
IA Ética - Esta directriz ofrece tanto recomendaciones vagas como específicas para que los desarrolladores consideren, incluyendo priorizar los datos personales, la ‘dignidad humana y el bien común’, así como la seguridad y los intereses de la propia Iglesia.
Este artículo pretende alinear la ética de los desarrolladores con la de la gente común, aunque no necesariamente con las enseñanzas de la propia Iglesia. Las solicitudes a los desarrolladores de respetar ciertos deseos del Vaticano son quizás más comparables a las directrices existentes que los Estados‑nación dan a las plataformas de redes sociales tanto en países occidentales como orientales para la autopreservación y la seguridad, no una directriz explícita para imponer a todos los usuarios de IA.
Este artículo también subraya la necesidad de ser transparentes sobre los métodos de recopilación y origen de datos, así como el objetivo subyacente de que la IA mejore a los usuarios humanos, sin reemplazarlos.
Algunos Mandamientos - Este artículo enumera algunas consideraciones regulatorias sobre para qué se debe y no se debe usar la IA. Estas recomendaciones se relacionan con la cuestión más general de restringir el uso de la IA que actúe contra los intereses de la humanidad y permitir acciones que vayan en contra de los intereses del estado de la ciudad del Vaticano.
Prohibiciones de IA - Este artículo establece algunas prohibiciones específicas respecto al uso de la IA, incluyendo la regulación y restricción de manipulaciones directas, exclusión o discriminación en el acceso para personas con discapacidad.
Los 4 resúmenes de artículos anteriores, que constituyen el primer capítulo, establecen el tono para el resto del documento. Otros puntos clave de las demás directrices incluyen recomendaciones sobre para qué debe usarse la IA, como la investigación científica y médica, el desarrollo de infraestructuras y el mantenimiento de la cultura establecida. Estos artículos intentan crear una especie de consideración que los desarrolladores tengan en cuenta al aplicar su trabajo en el mundo real, y cómo el Vaticano, como gobierno y organismo regulador, puede mantenerse al día.
Este conjunto de directrices puede verse como un ejemplo interesante de cómo los gobiernos y organismos reguladores podrían abordar la IA. Aunque estas directrices fueron emitidas por el Vaticano, no contienen mucho contenido específicamente religioso en sus recomendaciones o decretos, y podrían transferirse sin problemas a otras ciudades o países en la práctica.
Muchos de los artículos se centran en garantizar que la IA genere abundancia, en lugar de escasez en la fuerza laboral, manteniendo la seguridad y priorizando leyes existentes que no son realmente específicas del Vaticano. Sin embargo, el Vaticano se posiciona explícitamente a sí mismo y a sus directrices como potenciales líderes del resto del mundo, aunque estas directrices y artículos podrían aplicarse de forma aislada en el Vaticano. Por supuesto, cada gobierno tendrá que abordar la cuestión de la IA a su manera, según lo consideren oportuno. Al igual que redactar constituciones y legislación, copiar o al menos inspirarse en las leyes de gobiernos existentes puede o no tener sentido.
En lo que va del año, el propio Vitalik ha expresado quizás las opiniones más desaceleracionistas entre los líderes prominentes de cripto o de otros ámbitos, mientras que Sam Altman avanza a toda velocidad, afirmando que los agentes de IA comenzarán a incorporarse al mercado laboral ya el próximo año.
A medida que la IA se acelera (es probable que Vitalik no consiga lo que desea), también lo harán los debates sobre la ética de la IA. Algunos ya han empezado a predecir que 2025 verá más avances de IA por trimestre que 2023 o 2024. Es bastante posible que el ritmo de los debates sobre el uso de la IA no siga el ritmo del desarrollo de la IA.





