Fundamentos: Razonamiento neurosimbólico determinista como condición necesaria para la IA Automatizada y, en última instancia, IA Agéntica

Razonamiento (e inferencia) determinista basado en grafos de conocimiento

El concepto central en la aproximación neurosimbólica es la inferencia determinística basada en grafos de conocimiento, que se refiere a sistemas de IA que derivan conclusiones a través de reglas lógicas codificadas en una estructura de grafo de conocimiento ontológicamente interpretado. Lo crucial de este enfoque es que, debido a que las reglas están explícitamente programadas en la ontología, la inferencia es determinística: dadas las mismas entradas, el sistema siempre producirá la misma salida siguiendo las conexiones lógicas y reglas de razonamiento formalmente válidas, independientemente de la complejidad del dominio de conocimiento representado en los estados o registros estructurados o no estructurados.

Esta aproximación permite que los expertos del dominio codifiquen la lógica de decisión directamente en la ontología o red de ontologías que modelan el o los grafos de conocimiento que hagan al caso. Los criterios regulatorios, las listas de verificación de cumplimiento, las reglas de elegibilidad de productos, las de inclusión o exclusión y otros elementos críticos del conocimiento del dominio se representan como nodos y relaciones determinados por la ontología y el universo de relaciones, axiomas y reglas que contiene. Por ende, reflejan una estructura determinística del conjunto de decisiones que se pueden tomar sobre los datos que genera el dominio y que se consolidan en el grafo de conocimiento del mismo.

De la teoría a la práctica. Haciendo funcionar el conocimiento
Las ontologías definen la sintaxis y, lo que es más importante, la semántica formal de cómo se deben interpretar las expresiones. Es el conjunto de reglas del juego. Especifica qué constructores se pueden usar (subclases, propiedades, restricciones de cardinalidad, etc.) y qué conclusiones lógicas se derivan necesariamente de un conjunto de axiomas. Sin embargo, por sí solas no calculan nada, simplemente definen lo que es lógicamente válido.

La inferencia es el conocimiento que se obtiene directamente de la semántica explícita definida en la ontología; en otras palabras, es el resultado del cálculo que es posible gracias al sustrato lógico de la ontología y que permite ser automatizado por las máquinas. 

Si la ontología determina lo que se puede calcular, un razonador es la herramienta que permite realizar los cálculos que requieren las inferencias conforme a las normas de la ontología, de manera automatizada. Es decir, si la ontología determina el qué se puede hacer, el razonador es el cómo.

Por qué es necesario: Riesgos inherentes de los modelos de lenguaje en cualquier dominio de conocimiento que requiera resultados explicables, en el sentido fuerte de trazables y reproducibles

El uso de grandes modelos de lenguaje en el sector financiero, en el de las emergencias, en el del diagnóstico médico, en el de la seguridad o en el de la defensa, o en cualquier otro que requiera resultados no supervisados o determinísticos presenta riesgos específicos que requieren una atención cuidadosa.

El primer riesgo es la falta de determinismo. Los modelos, como ocurre con cualquier LLM, no garantizan la misma salida para entradas idénticas. Esta no reproducibilidad de los resultados de la IA dificulta enormemente confiar en ellos para flujos de trabajo que requieran resultados consistentes y comprobables.

El segundo riesgo lo constituyen las alucinaciones e información falsa. Los modelos generativos pueden producir información plausible y aparentemente verosímil, pero que es falsa. En los contextos mencionados, una regla de cumplimiento alucinada, una guía mal interpretada o una decisión sobre la naturaleza de cualquier entidad real concernida podría desencadenar decisiones erróneas o violaciones regulatorias.

El tercer riesgo es la vulnerabilidad a ataques de inyección de prompt. Estos modelos son susceptibles a entradas especialmente diseñadas para manipular su comportamiento de maneras no queridas por el diseñador del sistema, pudiendo eludir las medidas de seguridad incorporadas y las barreras de protección.

Los grandes modelos de lenguaje resultan, como vemos, insuficientes para producir resultados explicables en el sentido fuerte de trazables y reproducibles, en aquellos dominios de conocimiento que requieran tomar decisiones no supervisadas sobre las entidades y relaciones que lo forman.

Convergencia de Paradigmas: IA Neurosimbólica

Así las cosas, el futuro del razonamiento ontológico reside en la convergencia estratégica entre el rigor formal de las ontologías y los paradigmas emergentes de la inteligencia artificial. Esta evolución no representa un abandono de los principios lógicos establecidos, sino su integración en arquitecturas híbridas que combinan lo mejor de ambos mundos: la garantía lógica donde es crítica y la flexibilidad estadística donde es necesaria.

Nuestra propuesta trata de sacar a la luz que el determinismo lógico, lejos de ser una reliquia del pasado de la computación simbólica, es un enfoque extraordinariamente relevante en la era de la inteligencia artificial generativa. Es el único que puede dotar a este espacio de aparente humanización del fondo de confiabilidad que la inteligencia humana demanda en muchos de sus procesos de decisión más críticos. Los principios fundamentales de las ciencias formales no solo sobreviven, sino que prosperan cuando se aplican para resolver problemas prácticos y decisivos en el mundo real.

La relación entre razonamiento cerrado e inteligencia artificial se materializa de manera concreta en estos sistemas híbridos o neurosimbólicos de IA. El componente determinístico actúa como un sistema cerrado que valida y controla las salidas del componente probabilístico, garantizando que el sistema completo opere dentro de límites definidos y verificables. Esta síntesis representa una evolución natural en nuestra comprensión de cómo construir sistemas de IA que sean simultáneamente potentes, humanizados y confiables.

El enfoque propuesto crea sistemas de IA que pueden operar de manera segura dentro de entornos altamente regulados. Al implementar barreras de protección determinísticas alrededor de los modelos de lenguaje, las organizaciones pueden pasar de explorar la IA a desplegarla con confianza en todas sus operaciones que implican decisiones seguras, que esta aproximación permite automatizar.

La convergencia entre el razonamiento determinístico tradicional y las tecnologías de IA generativa no representa solo una solución técnica a un problema práctico. Ilustra cómo los fundamentos teóricos de las ciencias formales continúan proporcionando el andamiaje conceptual necesario para resolver los desafíos de la aplicación de la IA a la resolución de problemas prácticos, complejos y grandes. El determinismo y la probabilidad, lejos de ser paradigmas excluyentes, se revelan como perspectivas complementarias cuya síntesis produce sistemas de IA más robustos.