Los límites de LLM: Por qué los proyectos en tiempo real necesitan gráficos de conocimiento

¿Es buena la IA para simular inteligencia? La verdadera inteligencia de IA como ChatGPT y lo que nos depara el futuro.

Hola, soy John y explicaré la tecnología de IA de forma sencilla. Recientemente, la "IA parlante" como ChatGPT ha evolucionado a un ritmo vertiginoso. Seguro que a mucha gente le sorprende poder conversar igual que los humanos. Pero ¿realmente estas IA "piensan" al hablar? Quizás solo fingen ser muy inteligentes.

Hoy, explicaré el secreto detrás de la inteligencia de la IA, así como nuevas ideas para hacerla aún más inteligente, ¡de una manera que sea fácil de entender incluso para aquellos sin conocimientos especializados!

¿En qué es realmente buena la parlanchina IA "LLM"?

En primer lugar, la IA como ChatGPT esLLM (Modelos de Lenguaje Grande)Se llama "IA que lee muchas oraciones y predice qué palabras probablemente vendrán después". Por ejemplo, si escribes "Hace un día agradable hoy, así que...", devolverá palabras naturales como "¡Vamos de picnic!" o "Parece que la ropa se está secando bien".

Recientemente, se han publicado noticias que indican que los LLM finalmente han adquirido la capacidad de pensar (inferencia), como la "serie o" de OpenAI y la "R1" de DeepSeek de China. Sin embargo, algunos expertos afirman que este no es el verdadero significado de "capacidad de pensar". Se trata simplemente de una predicción de texto avanzada con algunas funciones útiles.

Además, la carrera por desarrollar IA es feroz, con la aparición de modelos más económicos y potentes uno tras otro. Incluso hay modelos tan asombrosos que pensarás: "¡Guau! ¿Se pueden fabricar tan baratos?". La industria de la IA está en plena guerra. Pero el precio no es lo único importante. Si no se resuelven los problemas fundamentales que enfrenta LLM y la situación continúa avanzando, podríamos enfrentarnos a un futuro algo preocupante.

¿Tienes problemas si solo tienes un Máster en Derecho (LLM)? ¿Cuáles son las debilidades de la IA?

Por mucho que haya evolucionado el LLM, aún quedan algunos problemas sin resolver. Los más conocidos sonAlucinaciónEste es el fenómeno donde la IA dice mentiras plausibles. Por ejemplo, si le preguntas sobre un personaje histórico, hablará como si hubiera dicho algo que en realidad no dijo. Es preocupante, ¿verdad?

Otras debilidades del LLM incluyen:

• La información tiende a estar desactualizadaEl LLM solo cuenta con la información necesaria hasta el momento del aprendizaje. Por lo tanto, podría no ser capaz de responder preguntas sobre nuevas noticias o eventos. Además, reaprenderlo requiere tiempo y dinero.
• Es difícil entender "¿Por qué respondiste eso?"El fundamento de las respuestas que da LLM a veces es difícil de comprender para los humanos. Incluso cuando preguntas "¿Por qué obtuviste esta respuesta?", es posible que no puedas dar una explicación clara.

Por ejemplo, imagina esta escena.

• Comprobación de fraude financieroSi le preguntas a un LLM: "¿Esta transacción parece sospechosa?", podría responder: "Sí, se asemeja a un patrón de fraude pasado". Pero el LLM no comprende realmente las complejas relaciones entre cuentas ni el flujo oculto de transacciones fraudulentas. Simplemente te da una respuesta plausible basada en datos históricos.
• Decidir sobre las combinaciones de medicamentosSupongamos que le pide a un LLM su opinión sobre una nueva combinación de medicamentos. Si dice: "Esta combinación aumentó la eficacia en un 30%", podría verse tentado a creerle. Pero si pasó por alto un efecto secundario grave, o si los dos medicamentos ni siquiera se probaron juntos en los ensayos clínicos, podría tener serios problemas.
• Respondiendo a los ciberataquesSupongamos que el responsable de seguridad de una empresa consulta a LLM y le dice: "Hubo un acceso no autorizado a la red. ¿Qué debemos hacer?". LLM podría elaborar un plan de contramedidas plausible, pero no necesariamente se ajusta a la configuración del sistema de la empresa, la información más reciente sobre amenazas ni las normas que deben seguirse. Si simplemente se cree en el consejo de la IA, podría generarse una situación peligrosa.
• Predecir los riesgos futuros para la empresaSupongamos que le pregunta a un LLM: "¿Cuál es el mayor riesgo económico para mi empresa el próximo año?". El LLM podría darle algunas respuestas basándose en datos de crisis económicas pasadas, pero no dispone de información sobre tendencias económicas en tiempo real, nuevas leyes ni riesgos específicos del sector. No dispone de información actualizada de su empresa, por lo que su respuesta podría ser solo una "conjetura".

Incluso si el LLM le da una respuesta tan segura como esta, debe evaluar cuidadosamente si es realmente correcta y apropiada para la situación. Especialmente en situaciones que involucran la vida de personas o información importante de la empresa, puede ser un poco intimidante confiar únicamente en el LLM.

Llega el salvador: Knowledge Graph. ¿Qué es?

Quizás pienses: "¿Entonces el LLM ya no sirve?". ¡Pero no es así! Hay una poderosa ayuda que puede compensar las debilidades del LLM y hacerte más inteligente.Gráfico de conocimientoLo es.

Los gráficos de conocimiento pueden parecer difíciles, pero en términos simples,Un registro que organiza y registra claramente las "conexiones" entre la informaciónPor ejemplo, información como «Juan escribe un blog sobre IA» y «Los blogs de IA son para principiantes» se conectan mediante líneas para crear un diagrama. Un árbol genealógico también puede considerarse un tipo de gráfico de conocimiento que registra las relaciones entre las personas.

Mientras que LLM es eficaz en el manejo de palabras, Knowledge Graph es eficaz en la comprensión de las relaciones y estructuras de las cosas. Al combinar ambos, la IA puede volverse más inteligente y confiable.

¿Qué tiene de bueno la colaboración entre LLM y Knowledge Graph?

Una de las tecnologías que combina LLM y gráficos de conocimiento es “RAG (Recuperación-Generación Aumentada)Este es un mecanismo que, antes de que LLM dé una respuesta, primero encuentra información relevante y precisa en el gráfico de conocimiento y la utiliza como referencia para generar una respuesta. Es como si LLM respondiera una pregunta mientras consultaba una ingeniosa hoja de trucos (gráfico de conocimiento).

Esta combinación tiene las siguientes ventajas:

• Respuestas más precisas y fiables:El conocimiento vago del LLM se combina con la "información basada en hechos" del Gráfico de Conocimiento, lo que reduce la alucinación y proporciona respuestas más precisas.
• Fácil de mantenerse al día con la información más reciente.Cuando surge información nueva, en lugar de tener que volver a capacitar a todo el LLM, puedes simplemente actualizar el gráfico de conocimiento, lo que hace que sea más fácil mantener el LLM actualizado.
• El "¿por qué?" se vuelve más fácil de entender.:Si sabe qué información del Knowledge Graph LLM se utilizó como referencia, será más fácil rastrear el razonamiento detrás de por qué se llegó a una respuesta particular.
• La información confidencial de la empresa también está seguraDado que los gráficos de conocimiento se pueden gestionar dentro de una red cerrada (el espacio de información cerrado de una empresa, la red interna), existe menos riesgo de que información importante se filtre al exterior.

Por ejemplo, la pregunta "¿Cuántos servidores hay en la cuenta de AWS de nuestra empresa (un servicio en la nube proporcionado por Amazon)?". Con solo LLM, podría entenderse de forma abstracta como "Hay que contar el número". Sin embargo, si se vincula a un grafo de conocimiento, se puede consultar una base de datos (una caja que organiza y almacena información) que registra la configuración de servidores de la empresa y responder con el número exacto, diciendo "Hay XX servidores".

Resumen: ¡El futuro de la IA está en las «combinaciones inteligentes»!

Si bien los avances recientes en IA han sido notables, parece que aún es un camino difícil alcanzar una IA capaz de hacer algo similar a lo que hace un humano (AGI: Inteligencia Artificial General) utilizando únicamente LLM. Sería más realista combinar las fortalezas de LLM con las de otras tecnologías, como los grafos de conocimiento, y compensar sus debilidades, lo que llevaría a la creación de una IA útil en nuestras vidas y en nuestro trabajo.

Así como un carpintero utiliza diferentes herramientas, como una sierra, un martillo y un cepillo, podríamos estar entrando en una era en la que la IA también “combinará y utilizará inteligentemente” una variedad de tecnologías.

Personalmente, me entusiasma mucho ver cómo evolucionará la IA en el futuro y cómo cambiará nuestras vidas. En particular, me entusiasma que, al combinar diferentes tecnologías de IA con diferentes "especialidades", como el LLM y los grafos de conocimiento, podamos encontrar respuestas a problemas complejos que hasta ahora no se han resuelto. ¡Parece que las posibilidades de la IA siguen expandiéndose!

Este artículo se basa en los siguientes artículos originales y se resume desde la perspectiva del autor:
Los LLM no son suficientes para el mundo real y en tiempo real
proyecta