IA fuerte e IA débil
Idea central
La diferencia entre IA fuerte e IA débil no se refiere únicamente a cuántas tareas puede resolver una máquina. La pregunta de fondo es más filosófica: ¿el sistema realmente entiende y tiene una mente o solamente actúa como si entendiera?
Esta distinción fue planteada por John Searle para separar dos afirmaciones que suelen confundirse: usar una computadora como herramienta para estudiar o reproducir capacidades mentales no es lo mismo que afirmar que la computadora posee literalmente una mente.
IA fuerte
La IA fuerte es la hipótesis de que una máquina correctamente construida o programada podría poseer una mente: no solo producir respuestas correctas, sino también comprender, razonar y tener estados mentales propios.
En su versión más ambiciosa, esta idea incluye conciencia, autoconciencia y experiencias subjetivas. Sin embargo, lo esencial en la formulación de Searle es la existencia de comprensión real, no que la máquina tenga que pensar exactamente como un ser humano.
IA débil
La IA débil considera a la computadora como una herramienta capaz de simular capacidades asociadas con la inteligencia —percibir, conversar, razonar, aprender o tomar decisiones— sin concluir por ello que posee conciencia o comprensión real.
Un sistema puede desempeñarse mejor que una persona en una tarea y seguir siendo IA débil en este sentido. El término no significa que sea poco potente, sino que no hacemos la afirmación filosófica de que tenga una mente.
IA fuerte no es lo mismo que IA general
Es común utilizar “IA fuerte” como sinónimo de IA general, pero las dos distinciones responden preguntas diferentes:
- IA estrecha o especializada: trabaja dentro de una tarea o dominio delimitado.
- IA general: puede aprender y transferir lo aprendido entre muchos problemas y contextos.
- IA débil: no se afirma que tenga mente o comprensión real.
- IA fuerte: se afirma que posee comprensión o estados mentales propios.
Por lo tanto, un sistema podría ser muy general y adaptable, pero seguir considerándose IA débil si su comportamiento no permite concluir que realmente comprende.
Diferencia central
| Característica | IA débil | IA fuerte |
|---|---|---|
| Afirmación principal | Simula o ejecuta capacidades inteligentes. | Posee comprensión o mente real. |
| Objetivo | Resolver problemas o estudiar capacidades cognitivas. | Construir una mente artificial, si esto es posible. |
| Conciencia | No es necesario afirmar que exista. | Puede incluirla, aunque no hay un criterio aceptado para demostrarla. |
| Comportamiento | Puede parecer completamente inteligente. | El comportamiento provendría de estados mentales propios. |
| Ejemplo | Un sistema que conversa o juega ajedrez competentemente. | Un sistema hipotético que entiende lo que dice y reconoce sus propias razones. |
Ejemplo mínimo
Un programa de ajedrez puede evaluar posiciones y vencer a jugadores humanos sin saber qué es un juego, qué significa ganar o por qué una persona disfruta la partida. Desde la distinción de Searle, su desempeño es compatible con la IA débil.
En cambio, hablar de IA fuerte exigiría sostener que el sistema no solo calcula una buena jugada, sino que entiende la situación y posee algún tipo de estado mental relacionado con su decisión.
Criterios propuestos
Se han propuesto varias pruebas para evaluar comportamiento inteligente o capacidades generales. Sin embargo, ninguna permite demostrar directamente la existencia de conciencia:
- La prueba de Turing evalúa si la conversación de una máquina resulta indistinguible de la de una persona. Es una prueba de comportamiento, no una medición directa de comprensión o conciencia.
- Una prueba total de Turing añadiría percepción y acción en el mundo físico. Puede ser un indicador más exigente de inteligencia general, aunque conserva el mismo problema filosófico.
- La prueba del café de Wozniak propone que una máquina entre en una casa desconocida, encuentre la cocina y prepare café. El ejemplo mide autonomía, sentido común, percepción y adaptación a un entorno nuevo; por sí solo, no demuestra que la máquina tenga una mente.
Límites de la distinción
- El argumento de la habitación china intenta mostrar que seguir reglas y producir respuestas correctas no implica necesariamente comprender lo que esas respuestas significan.
- Observar comportamiento inteligente no nos permite acceder directamente a la experiencia interna del sistema. Este también es, en cierta medida, el problema que enfrentamos al atribuir estados mentales a otras personas.
- Que un sistema generalice entre tareas no demuestra por sí mismo que sea consciente; muestra una capacidad más amplia.
- Explicar que un sistema aprende patrones estadísticos tampoco resuelve la discusión: describe parte de su mecanismo, pero no establece automáticamente si existe o no comprensión.
- No hay una prueba universalmente aceptada que permita marcar el momento exacto en que una IA débil se convierte en IA fuerte.
Relaciones
- Se evalúa conductualmente mediante: Prueba de Turing.
- Se cuestiona filosóficamente mediante: Habitación china.
- Se diferencia del enfoque práctico de: Agente racional, que evalúa decisiones y resultados sin exigir conciencia.
Procedencia
- Clase: Introducción a IA.
- Searle, John R. (1980). “Minds, Brains, and Programs”. Behavioral and Brain Sciences, 3(3), 417–457. https://doi.org/10.1017/S0140525X00005756
- Russell, Stuart y Norvig, Peter. Artificial Intelligence: A Modern Approach, sección sobre los fundamentos filosóficos de la inteligencia artificial.