Todas las entradas por tomaslugo97

¿Cómo parar a un robot inteligente?

Día con día los sistemas se van volviendo cada vez más inteligentes, se están haciendo autónomos y en algunos aspectos ya superan a los humanos. Debido al crecimiento acelerado de esta tecnología, ha surgido la pregunta entre la sociedad y la comunidad científica: ¿Cómo se detendría a un sistema más inteligente que nosotros? Esto con temor de que se vuelvan contra nosotros, como se ha mostrado en la ciencia ficción. El investigador en inteligencia general artificial (AGI por sus siglas en inglés) Robert Miles, de la universidad de Nottingham, nos comenta que la clave está en adecuar lo que el sistema quiere lograr.

Robert explica que el algoritmo inteligente tiene una sola motivación: Cumplir su objetivo, ya que ello conllevará a una recompensa alta. Y comenta que si se implemente un botón de apagado como un castigo, el robot hará todo lo posible para evitar que lo presionen, incluso recurrir a la violencia. Aunque esto lo hará sin conciencia de que puede evitarlo por sus acciones. En cambio, el otro lado de la moneda sería poner la misma recompensa al botón como al cumplimiento de su tarea ya que de esta forma no evitará que se presione debido a que no lo ve como algo negativo. Esta solución conllevaría a que al momento de iniciar el programa este se apague solo, ya que es la manera más eficiente de obtener una recompensa.

Con esto en mente, Robert argumenta que la solución se encuentra entre estas dos posturas; si se adaptan adecuadamente las recompensas detrás de cada acción, el robot no solamente intentará cumplir el objetivo, sino lo hará de cierta forma en la que no queramos apagarlo. Como un humano, que evita hacer acciones como robar o matar a alguien para no ser penalizado.

La solución a este dilema no es tan simple y aún no existe ninguna propuesta con la que toda la comunidad científica esté de acuerdo. Más allá de ser un problema tecnológico, es un obstáculo filosófico que hay que superar. Definitivamente es algo que se debe de pensar a fondo ya que repercutirá al futuro de la tecnología y la sociedad si no se maneja adecuadamente.

Anuncios

Cómo Tesla resuelve los dilemas éticos de los carros autónomos

Hoy en día ya es trivial pensar en los dilemas éticos que un sistema autónomo se puede llegar a enfrentar, especialmente cuando se trata de un automóvil. Las compañías que diseñan este tipo de vehículos deben mantener una visión holística para inculcar esos algoritmos en su carro y así el resultado ante una situación sea la de menor mal.

Un ejemplo muy usado para este tipo de casos es cuando un humano va conduciendo y al distraerse por un segundo, se encuentra espontáneamente ante una situación de emergencia donde si continua el camino, atropellará a cinco personas. El sistema autónomo detecta esta situación de emergencia y tiene la opción de girar el carro hacia la derecha. Lamentablemente, al tomar esta acción atropellará solamente a una persona. Aquí uno pensaría que el menor mal es atropellar a una persona en vez de a cinco. Aunque el dilema es que el automóvil estaría causando la muerte de ese peatón, en vez de que el conductor mate a los cinco.

Ante esta problemática, la estrategia de Tesla fue: Si el conductor sigue activamente presionando el acelerador, el sistema no se entrometerá. Esto quiere decir que tomaron la posición de por lo menos no tener la responsabilidad de haber creado un accidente.

Referencia:

Lin, P. (2017, Abril 05). Here’s How Tesla Solves A Self-Driving Crash Dilemma. Recuperado 21 de Septiembre, 2017, de https://www.forbes.com/sites/patricklin/2017/04/05/heres-how-tesla-solves-a-self-driving-crash-dilemma/#279b3eb56813

Incorporando la ética en el Internet de las cosas (IoT) permitiendo un sistema de cuidado de la salud inteligente

Con el auge que ha tenido el Internet de las cosas (IoT) en los últimos años, se han presentado varios paradigmas sobre cómo deberíamos conectarnos con el mundo y cuáles son las mayores áreas de oportunidad para esta nueva herramienta. El cuidado de la salud, siendo mencionado como la más atractiva para estas áreas de oportunidad en el texto de:”>Incorporating Ethics in Internet of Things (IoT) Enabled Connected Smart Healthcare es también una de las mejores coincidencias entre la ética y la tecnología.

Este nuevo desarrollo tecnológico puede ser aplicado en diferentes campos de la medicina. Dentro de las aplicaciones que tiene esta tecnología se encuentran: Monitoreo médico, operaciones quirúrgicas automatizadas, cuidado a gente de la tercera edad, entregar medicamentos al hogar del paciente, entre otros. Con todas las oportunidades que existen para el IoT, es normal encontrarse empresas invirtiendo su dinero en el desarrollo de dicha tecnología.
Los investigadores argumentan que antes de empezar a vender los productos, es necesario pensar en las implicaciones éticas. Algunos de los dilemas siendo: ¿qué tanta información debe de liberarse a la red pública sobre los pacientes? Y ¿Quién será el culpable si la computadora que cuidaba al paciente hizo un mal cálculo y su paciente falleció?

La revolución del Internet de las cosas brindará beneficios a la humanidad, afirman los autores, aunque también señalan al final del texto que hay que desarrollar la tecnología con cuidado y reestructurar algunas leyes o crear normas para poder acaparar todos los posibles casos al usar esta tecnología.

Referencia:

S. Sholla, R. Naaz and M. A. Chishti, “Incorporating Ethics in Internet of Things (IoT) Enabled Connected Smart Healthcare,” 2017 IEEE/ACM International Conference on Connected Health: Applications, Systems and Engineering Technologies (CHASE), Philadelphia, PA, USA, 2017, pp. 262-263. Recuperado de http://ieeexplore.ieee.org/document/8010648/