¿Cómo parar a un robot inteligente?

Día con día los sistemas se van volviendo cada vez más inteligentes, se están haciendo autónomos y en algunos aspectos ya superan a los humanos. Debido al crecimiento acelerado de esta tecnología, ha surgido la pregunta entre la sociedad y la comunidad científica: ¿Cómo se detendría a un sistema más inteligente que nosotros? Esto con temor de que se vuelvan contra nosotros, como se ha mostrado en la ciencia ficción. El investigador en inteligencia general artificial (AGI por sus siglas en inglés) Robert Miles, de la universidad de Nottingham, nos comenta que la clave está en adecuar lo que el sistema quiere lograr.

Robert explica que el algoritmo inteligente tiene una sola motivación: Cumplir su objetivo, ya que ello conllevará a una recompensa alta. Y comenta que si se implemente un botón de apagado como un castigo, el robot hará todo lo posible para evitar que lo presionen, incluso recurrir a la violencia. Aunque esto lo hará sin conciencia de que puede evitarlo por sus acciones. En cambio, el otro lado de la moneda sería poner la misma recompensa al botón como al cumplimiento de su tarea ya que de esta forma no evitará que se presione debido a que no lo ve como algo negativo. Esta solución conllevaría a que al momento de iniciar el programa este se apague solo, ya que es la manera más eficiente de obtener una recompensa.

Con esto en mente, Robert argumenta que la solución se encuentra entre estas dos posturas; si se adaptan adecuadamente las recompensas detrás de cada acción, el robot no solamente intentará cumplir el objetivo, sino lo hará de cierta forma en la que no queramos apagarlo. Como un humano, que evita hacer acciones como robar o matar a alguien para no ser penalizado.

La solución a este dilema no es tan simple y aún no existe ninguna propuesta con la que toda la comunidad científica esté de acuerdo. Más allá de ser un problema tecnológico, es un obstáculo filosófico que hay que superar. Definitivamente es algo que se debe de pensar a fondo ya que repercutirá al futuro de la tecnología y la sociedad si no se maneja adecuadamente.

Anuncios

Un comentario en “¿Cómo parar a un robot inteligente?

  1. Es importante que las personas estén informadas sobre lo que nos depara el futuro, especialmente si el peligro incluye la posibilidad, aunque pueda ser pequeña, de eliminar a la humanidad en un descuido. Se podría decir que ya estamos protegidos por los esfuerzos que han hecho figuras líderes de la industria, pero en el caso de tecnologías que se aceleran paulatinamente, la atención al peligro debe ser omnipresente.

Los comentarios están cerrados.