Humano verificado

El día en que las máquinas aprendan a operar el sistema eléctrico

De los árboles lógicos a la inteligencia artificial

Hace más de veinte años, un compañero de trabajo me dijo que llegaría el momento en que ya no habría operadores en los centros de control del sistema eléctrico porque la inteligencia artificial terminaría operándolo y, con ello, desaparecerían los errores humanos. No recuerdo exactamente qué expresión utilizó entonces; probablemente habló de redes neuronales, que ya empezaban a aparecer en las conversaciones técnicas de aquellos años. La afirmación me pareció interesante, aunque todavía bastante lejana. Hoy, sin embargo, aquella promesa plantea una pregunta distinta: ¿qué ocurre cuando pretendemos eliminar el error humano, pero introducimos la posibilidad del error algorítmico?

“¿Qué ocurre cuando pretendemos eliminar el error humano, pero introducimos la posibilidad del error algorítmico?”

En realidad, el intento por trasladar parte del razonamiento humano a una computadora había comenzado antes. En los años noventa utilizamos programas basados en árboles lógicos. Recuerdo particularmente uno llamado Logic Tree. Su principio era relativamente sencillo: frente a determinada condición se seguía una secuencia de decisiones previamente establecidas hasta llegar a una acción. No era inteligencia artificial como la entendemos hoy, pero detrás estaba la misma aspiración: capturar parte del conocimiento de una persona experimentada y conseguir que una máquina pudiera reproducirlo.

Aquellas herramientas tuvieron su momento y después muchas quedaron en desuso. Sin embargo, mientras discutíamos si algún día una computadora sería capaz de pensar como un operador, estaba ocurriendo algo quizá más importante: comenzábamos a documentar sistemáticamente nuestra manera de trabajar.

Cuando comenzamos a escribir lo que sabíamos

Quienes vivimos la expansión de los sistemas de calidad recordamos lo que significó la llegada de ISO 9000 a la industria. En determinadas cadenas de suministro, fabricar bien dejó de ser suficiente. Había que demostrar que se fabricaba bien y, sobre todo, demostrar que existía un método para hacerlo.

Los procesos tuvieron que mapearse, los procedimientos escribirse, las responsabilidades definirse, las desviaciones registrarse y las evidencias conservarse. Alrededor de aquello surgió también una industria de certificadores, auditores, consultores y especialistas encargados de verificar que las empresas hicieran aquello que, en muchos casos, llevaban años haciendo.

Podemos discutir cuánto de aquello mejoró realmente los procesos y cuánto terminó convertido en burocracia. Pero, visto a la distancia, ocurrió algo de enorme trascendencia: una parte del conocimiento que estaba en las personas comenzó a salir de ellas.

Durante generaciones, muchísimo conocimiento industrial fue tácito. Se aprendía trabajando al lado de alguien. “Pregúntale a fulano, él sabe cómo se hace”. “Cuando pasa esto, hay que hacer aquello”. Los sistemas de gestión comenzaron a exigir lo contrario: había que escribirlo, ordenarlo y convertirlo, hasta donde fuera posible, en un proceso reproducible.

Nadie estaba pensando entonces en alimentar modelos de inteligencia artificial. ISO 9000 no nació para eso. Pero la consecuencia fue que comenzamos a transformar conocimiento tácito en conocimiento explícito.

Del archivero a la nube

Después llegó la digitalización.

Los procedimientos abandonaron paulatinamente los archiveros, las bitácoras se convirtieron en bases de datos y los registros comenzaron a almacenarse en sistemas empresariales. Producción, mantenimiento, fallas, tiempos, costos y decisiones fueron dejando una huella digital cada vez mayor.

En los sistemas eléctricos ocurrió exactamente lo mismo. Los sistemas SCADA y EMS fueron acumulando estados, telemediciones, alarmas, secuencias de eventos, flujos, voltajes, frecuencia, maniobras, disparos y restablecimientos. Durante años construimos, sin llamarlo así, una enorme memoria digital de la operación.

Después apareció la nube. Subimos documentos, procedimientos, correos, reportes, manuales, bases de datos, fotografías, videos y código. Cada etapa tenía sentido por sí misma: la normalización buscaba consistencia; la digitalización, productividad; la nube, disponibilidad; el Big Data, encontrar patrones; el machine learning, aprender de ellos.

Pero cuando uno observa todo el proceso en retrospectiva, la trayectoria resulta evidente: primero documentamos cómo hacíamos las cosas; después digitalizamos esa documentación; luego almacenamos cantidades inmensas de información y finalmente construimos máquinas capaces de aprender de ella.

La diferencia con aquellos árboles lógicos de los años noventa es enorme. Entonces teníamos que explicarle previamente a la computadora prácticamente todas las rutas posibles. Hoy podemos proporcionarle grandes cantidades de información a un modelo y pedirle que encuentre relaciones que antes tenían que ser programadas una por una.

Más aún, estamos pasando rápidamente de inteligencias artificiales que responden preguntas a agentes capaces de realizar acciones. Una IA puede analizar información, otra solicitarla, otra negociar y otra ejecutar una decisión sobre un sistema físico.

Humano verificado

Hace unos días, viendo robots preparar alimentos, pensé que probablemente llegará el momento en que algunos restaurantes anuncien orgullosamente que sus productos están “hechos por manos humanas”. Después pensé en las redes profesionales. Si las inteligencias artificiales pueden buscar proveedores, contratar servicios, negociar y trabajar entre ellas, quizá algún día resulte necesario identificar expresamente algo que hoy damos por descontado: humano verificado.

Y entonces recordé nuevamente a aquel compañero que hace más de veinte años afirmaba que algún día desaparecerían los operadores.

La diferencia es que ahora su comentario ya no parece ciencia ficción.

Durante décadas hemos documentado criterios de operación, escrito procedimientos, registrado contingencias, almacenado eventos y conservado el resultado de millones de decisiones. Sabemos cuál era la condición del sistema, qué decidió el operador, qué maniobra realizó y qué ocurrió después. Para nosotros eso constituye la historia de la operación. Para un algoritmo también puede constituir algo distinto: datos de entrenamiento.

Pero aquí aparece el problema que no resolvía Logic Tree y que tampoco desaparece simplemente porque hoy tengamos modelos mucho más poderosos. Aprender qué hicieron los operadores en millones de situaciones no es necesariamente lo mismo que saber operar un sistema eléctrico.

Cuando la realidad deja de parecerse al modelo

La realidad tiene la mala costumbre de no consultar los procedimientos antes de ocurrir.

Una telemedición puede estar equivocada, una comunicación puede perderse, una protección puede actuar de manera distinta a la esperada o varias contingencias pueden presentarse casi simultáneamente. También existe un límite más elemental: la inteligencia artificial necesita energía, información, comunicaciones y medios físicos para ejecutar sus decisiones.

En un colapso total del sistema, los centros de control dependen de respaldo eléctrico; las subestaciones, de baterías, servicios auxiliares y mecanismos que conservan energía para ciertas maniobras. Las comunicaciones convencionales pueden desaparecer. En ese momento la operación deja de ser una pantalla llena de datos y vuelve al mundo físico: qué equipo sigue disponible, qué comunicación sobrevive y qué maniobra todavía puede realizarse.

Una inteligencia artificial puede conservar todo su conocimiento y, sin embargo, quedarse sin ojos, sin oídos y sin manos.

Ahí aparece nuevamente el criterio. No porque el ser humano posea alguna capacidad misteriosa, sino porque puede reconocer que la situación ya no se parece al modelo, trabajar con información incompleta y decidir qué puede hacerse con lo que todavía queda disponible.

Eso tampoco significa que una inteligencia artificial jamás pueda desarrollar algo semejante. Significa simplemente que una cosa es saber qué debe hacerse y otra conservar los medios físicos para hacerlo.

La pregunta ya no es si podrá hacerlo

Por eso la discusión realmente interesante sobre inteligencia artificial y sistemas eléctricos no será si una IA puede llegar a operar una red. Seguramente veremos una participación creciente de sistemas autónomos en la toma de decisiones operativas.

La pregunta difícil será hasta dónde queremos permitirles decidir sin intervención humana y, sobre todo, quién será responsable cuando lo hagan.

Automatizar una decisión no automatiza sus consecuencias.

Tal vez aquel compañero termine teniendo razón y algún día existan centros de control con muy pocos operadores, donde algoritmos vigilen a otros algoritmos y reaccionen en milisegundos ante condiciones que hoy requieren la intervención de equipos completos de especialistas.

Si ocurre, habrá una ironía extraordinaria en todo este recorrido. Pasamos décadas intentando conservar el conocimiento de las personas, evitar que dependiera de la memoria individual, documentarlo, ordenarlo, digitalizarlo y almacenarlo.

Lo hicimos porque parecía lo correcto.

Sólo que ahora hemos creado máquinas capaces de leerlo.

Quizá dentro de algunos años, en algún centro de control prácticamente autónomo, todavía exista una posición con un distintivo que hoy nos parecería absurdo: Operador humano verificado.

No porque calcule más rápido que una máquina, sino porque, cuando las condiciones dejen de ser normales, alguien tendrá que seguir ahí para operar lo que todavía queda.

---

Las opiniones vertidas en la sección «Plumas al Debate» son responsabilidad exclusiva de quienes las emiten y no representan necesariamente la posición de Energía a Debate, su línea editorial ni la del Consejo Editorial, así como tampoco de Perceptia21 Energía. Energía a Debate es un espacio informativo y de opinión plural sobre los temas relativos al sector energético, abarcando sus distintos subsectores, políticas públicas, regulación, transparencia y rendición de cuentas, con la finalidad de contribuir a la construcción de una ciudadanía informada en asuntos energéticos.

---