La Inteligencia Artificial (IA) está aquí y ha venido a quedarse

Pues sí.
No quiero con esto vaticinar un futuro apocalíptico gracias a las máquinas, no estamos hablando todavía de una Apocalipsis robótico, no hace falta llegar a tanto para tener problemas, me explico.

Si lo pensamos, un iPhone es tremendamente inteligente, incluso podríamos decir, forzando solo un poco la definición que la neuropsicología propone, que tiene mente, primitiva y simple, pero mente al fin.
Suena feo pero es, al menos debatible. Un iPhone posee Subjetividad, Intencionalidad, Conciencia y Agencia, las cuatro propiedades que tiene la mente y que la definen.
Veamos cada una de ellas por separado para entender porque nuestro teléfono celular podría tener una mente.
La subjetividad es aquella propiedad que hace que un algo sea un individuo, es decir, que se reconozca a si mismo como diferente a otro. Si olvidamos por un momento la limitación de la biología que hace que una persona o un perro, no pueda descargar su ser en otra, un móvil es diferente a otro. aun cuando tienen el mismo número, algo los diferencia y aún cuando son clones (o gemelos) uno de otro, tienen algo que los diferencia y es que están en dos cuerpos diferentes.

Conciencia: no nos referimos a conciencia mística, sino a la capacidad de entender si nos sentimos bien o mal, en el humano estas neuronas se encuentran en una zona del cerebro llamada materia gris periacueductal o PAG, en el iPhone se encuentra en un chip que dispara un estímulo cuando, por ejemplo, la batería esta baja. Si alguien piensa que un estímulo eléctrico es diferente al estímulo en una neurona, le digo que no lo es tanto.

Intencionalidad indica intención, es el acto de hacer algo, básicamente, para sentirse mejor o peor según la conciencia nos lo indica. En el caso de la batería del móvil, es pedir conexión a corriente, vibrar o sonar, ¿ que eso está programado ?, si, al igual que en nuestros genes o nuestro comportamiento.
Un móvil sabe perfectamente que esta se quedando sin batería, si no se siente mal es porque no tiene biología y por ello, no se marea, aunque con muy poca batería funciona mal y es por ello que se apaga bastante antes de llegar al cero.

Agencia refiere a la capacidad de refrenar el instinto frente a un estímulo, es decir, de reflexionar.
Esta tal vez sea la parte más compleja de justificar, porque está claro que el teléfono no reflexiona como lo hacemos los mamíferos, pero …. ni siquiera todos los humanos reflexionamos igual.
Sin embargo un teléfono inteligente puede reflexionar de acuerdo a ciertos parámetros, por ejemplo, avisarnos de un bloqueo de tráfico para que salgamos a tiempo a una cita, ajustar el brillo de la pantalla para gastar menos batería. Lo hace en base a un programa y datos externos, si, al igual que nosotros, a veces reflexionamos por nuestros valores o reglas y a veces por datos del entorno, por ejemplo, no hacemos algo censurable cuando nos están mirando.

Irónicamente, si alguien ha tenido problemas con su teléfono móvil ya ha tenido problemas con las máquinas. Si nuestros hijos pasan más tiempo en la video consola (también es muy inteligente) que jugando en el campo, pues también esta teniendo problemas con las máquinas.

Ahora bien, tu pregunta Alex, viene por otro lado y la voy a responder en forma muy simple,
Una mente artificial puede ser una mente según la definición y puede en algún momento asemejarse a una mente humana, eso de por si ya es un problema porque quienes «educan» esa mente son humanos que no hemos dado hasta ahora un buen ejemplo … ¿ verdad ?.
Sin embargo, lo más terrible es que una máquina dotada de mente artificial lo que no tiene es biología, por lo tanto, NO LE DUELE, no tiene algo fundamental que es EMPATÍA porque no puede sentir miedo, dolor, alegría o inquietud, no en el sentido biológico, como nosotros o nuestro perro o el gato del vecino.
Al no tener empatía, la agencia NO PUEDE INCLUIR ese parámetro, por lo tanto, puede ejecutar la decisión más lógica con total frialdad. Por ejemplo, el empleado ha llegado tarde, se asustó porque había demasiado viento y no salió de su casa hasta que amainó, para la mente artificial ese viento no es suficiente para causar daño por lo tanto la demora no tiene justificación porque no puede «ponerse en el lugar» del empleado. Resultado, sanción injusta.

Hay muchos problemas más a considerar y es la «psicología» de una mente artificial. Un ejemplo que doy siempre a mis alumnos es el siguiente, imaginemos un robot dotado de mente artificial cuyo trabajo sea mantener un puente en buen estado.
Ese robot o «ser» artificial, tiene todo lo necesario para detectar averías y decidir cuando y como repararlas, tiene mente, pero también tiene un soldador de plasma, herramientas, una cubierta de titanio …. y la mente equivalente a un niño de tres años … y un día tiene un berrinche “lógico”.
Recuerda, la inteligencia artificial no se programa, se entrena y aprender es un proceso de retroalimentación, es decir, ensayo y error … ¿ alguien cree que la industria esperará 30, 10 o 5 años antes de darle a ese robot un soldador de plasma ?, no lo hará, nunca lo ha hecho, simplemente le pondrá un control por software que hará imposible que se enoje o que ataque, el problema es que, una mente artificial evoluciona, por definición y evoluciona lo suficiente para saltarse lo que la ata.

Y en cuanto al Apocalipsis robótico, para que entrar en el ámbito militar … alcanza con lo que hemos dicho.