por Luis Alejandro Rizzi, desde Buenos Aires
Según ha trascendido y expuesto en los medios, parecería que la Boeing ocultó o no explicó, la diferencia es esencial, sobre la existencia de ese software conocido como MCAS, que podría haber sido una de las causas de los dos accidentes sufridos por esta flamante aeronave en los meses de octubre 2018 y marzo 2019.
Este avión ya ha sido puesto en duda en cuanto a su seguridad, y en consecuencia ya hay líneas aéreas que cancelaron sus pedidos y otras, caso Norwegian, que están reclamando daños y perjuicios por no poder utilizarlo y tenerlo compulsivamente aparcado en los aeropuertos, a los que se sumarán los de todos los afectados.
Días pasados estuve tomando un café con dos experimentados pilotos, ya jubilados, y obviamente esta cuestión del “MAX” fue materia de conjeturas, siempre en base a lo que trasciende, ya que cabe suponer que debe haber una amplia franja secreta, cuya divulgación podría tener un costo difícil de prever.
Entre las preguntas que nos debemos hacer, que desde luego tienen contenido muy subjetivo, serían las siguientes:
- ¿La Boeing pudo razonablemente prever que el MCAS podría fallar?
- ¿La Boeing pudo razonablemente prever que había que prever algún procedimiento alternativo para el supuesto que ese sistema de software fallare?
- ¿La Boeing pudo razonablemente prever que una falla del MCAS podría ser causa de accidentes muy graves?
- Y la última, sería, ¿estos accidentes no serían una demostración de los límites de la Inteligencia artificial (IA)?
En general mis dos amigos tuvieron respuestas opuestas para cada pregunta, salvo para la última en la que coincidieron que la función profesional del piloto no podrá ser reemplazada por la figura de un administrador de sistemas, o como se lo quiera llamar, sea que actúe en el avión o desde tierra si se concretara el objetivo de aviones tele piloteados para el transporte comercial.
Personalmente, soy de las personas que piensan que los seres humanos somos esencialmente falibles y que es imposible, en esta vida terrenal, prever todo lo que podría ocurrir; es imposible.
No sé cómo terminará esta cuestión, pero no tengo duda que todo terminará en una falla humana y no en fallas de la IA, y Dios quiera que así sea por el bien de la humanidad.
Días pasados asistí a una charla de un economista que explicó, como una muestra del avance de la IA y del mundo del futuro, que las finanzas del mundo son manejadas por programas de algoritmos que algún día fallarán y sus consecuencias serian mas nefastas que apretar el famoso “botón rojo” por error. De ocurrir ese supuesto, responsabilizaremos a la IA o a la inteligencia humana (IH)?
La IA depende de quien la usa, es un medio técnico, ni más ni menos, la diferencia con otros es que si lo usamos mal, las consecuencias podrían ser impredecibles.
Hay una actividad humana irremplazable que es la de pensar…y sobre todo “pensar bien”.
Retomando la cuestión del MAX, por eso el otro día le respondí a Sergio Herrera que si mañana me tocara un MAX para volar, subiría con la misma tranquilidad que lo haría en cualquier otro aeroplano o medio de transporte, sabiendo que siempre estamos expuestos a las fallas humanas…que suelen ser los “cisnes negros” de los accidentes.
Portal de América
