¿Humanizar o no humanizar? he ahí el dilema: Implicancias socio-jurídicas de los robots sociales destinados a la asistencia de pacientes

Resumen

La injerencia de la Inteligencia Artificial (IA) y la robótica en absolutamente todos los ámbitos sobre los que el ser humano se desenvuelve, junto a la pandemia de COVID y el incremento de la brecha demográfica entre la población geriátrica y la disponibilidad de talento humano en el sector salud, han demandado el uso de robots sociales dentro del sector sanitario. Si bien es cierto que, debido a la apariencia física y capacidad de interactuar que poseen los robots sociales, los ha hecho aparentemente idóneos para emplearlos con pacientes como adultos con discapacidad intelectual o psicosocial, se hace imperioso el analizar las cuestiones jurídico sociales provenientes del despliegue de este tipo de autómatas en el ámbito sanitario. Siendo así, las principales problemáticas sociales encontradas fueron: el redimensionamiento de las relaciones que se generan en los centros de salud, la desconfianza de los pacientes hacia los sistemas autónomos y los peligros provenientes de la humanización de la robótica. Finalmente, a nivel jurídico se evidenció la existencia de cuestiones como la posible filtración de data sensible a lo largo del ciclo de vida de los robots y la tan confusa relación entre los accidentes promovidos por las máquinas y la responsabilidad civil.

Palabras clave: Robótica; Servicio de salud; Paciente; Inteligencia artificial; Tratamiento médico.

Abstract

The influence of Artificial Intelligence (AI) and robotics in absolutely every area of ​​human activity, coupled with the COVID pandemic and the widening demographic gap between the elderly population and the availability of human talent in the healthcare sector, have necessitated the use of social robots within the healthcare sector. While it is true that social robots' physical appearance and ability to interact have made them seemingly ideal for use with patients such as adults with intellectual or psychosocial disabilities, it is imperative to analyze the legal and social issues arising from the deployment of this type of robot in the healthcare field. Thus, the main social problems encountered were: the resizing of the relationships generated in healthcare centers, patient distrust of autonomous systems, and the dangers arising from the humanization of robotics. Finally, at the legal level, issues such as the potential leakage of sensitive data throughout the life cycle of robots and the confusing relationship between accidents caused by machines and civil liability became evident.

Keywords: Robotics; Healthcare; Patient; Artificial Intelligence; Medical Treatment.

Introducción

En el presente siglo, el ámbito clínico enfrenta un cúmulo de retos, siendo uno de los más importantes el mejorar la calidad de los servicios ofrecidos a los pacientes (González-González et al., 2021). En este contexto, las tecnologías orientadas al bienestar y el cuidado personal se configuran como elementos clave para apoyar la salud de las personas e incrementar su independencia y calidad de vida (Ghafurian et al., 2024).

Siendo así, factores como la pandemia de COVID-19 (González-González et al., 2021), el desarrollo de tecnologías disruptivas como la robótica o la Inteligencia Artificial en diversos ámbitos (Ho, 2023), la cada vez más notoria disparidad entre la creciente población de adultos mayores y la insuficiente fuerza laboral disponible en los centros hospitalarios (Sommer et al., 2024), entre otros, han impulsado el desarrollo e injerencia de robots sociales dentro del ámbito sanitario. En consecuencia, debido a que los sistemas autónomos sociales poseen una estructura física, la capacidad de interactuar con el entorno y, además, son pasibles de ser programados para adaptarse a los sujetos y, de este modo, proporcionar asistencia, son utilizados para el apoyo de personas con discapacidad y adultos mayores (Ghafurian et al., 2024). Lo cierto es que su campo de aplicación aún no encuentra límites definidos, debido a la evolución desmedida de estas tecnologías.

No obstante, el desarrollo de estos dispositivos disruptivos vuelve a poner en evidencia la brecha entre el derecho y la realidad. Surgen así diversos inconvenientes, como la relación entre los daños ocasionados por los robots y la responsabilidad civil, o la creciente preocupación sobre posibles filtraciones de datos sensibles a lo largo del ciclo de vida de los robots. Además, se presentan cuestiones sociales como la desconfianza de los pacientes hacia los robots, así como las implicancias provenientes de la humanización de los autómatas. Por ello, se hace imperioso el analizar las problemáticas socio-jurídicas generadas por la presencia de robots sociales en los centros hospitalarios.

Finalmente, con el objeto de llevar a cabo la investigación, el artículo mantiene la siguiente estructura: tras la introducción, el segundo apartado desarrolla la evolución histórica de los robots sociales; el tercer apartado expone la conceptualización, estructura y usos de los autómatas; en el cuarto apartado, se describen las aplicaciones que se les da a los robots sociales dentro del sistema de atención en salud y, finalmente, en el quinto apartado, se formulan las problemáticas socio-jurídicas derivadas del uso de robots sociales en el ámbito sanitario.

Breve h istoria de los r obots s ociales: De Talos a Kismet

Aunque la mayoría de los historiadores tienden a asociar el origen de los autómatas con aquellos artesanos medievales que fabricaron máquinas que se movían solas, al momento de analizar la mitología creada desde hace más de dos mil años, se puede encontrar un cúmulo de historias a través de las cuales se conjeturaban formas de emular y superar la vida natural por medio de lo que se podría denominar como biotechne, es decir, vida por intermedio de la artesanía (Mayor, 2018). De hecho, el autor indica que una de las cosas más llamativas es que al igual que en la mayoría de ficciones, en donde tanto la fuente de energía como el funcionamiento interno de los autómatas es un misterio, este problema de transparencia persiste en la actualidad y manifestándose en la denominada tecnología de caja negra, es decir, sistemas cuyo mecanismo interno es desconocido.

Siendo así, Mayor (2018) relata que los primeros antecedentes de seres que se “hicieron, no nacieron” se encuentran en personajes míticos como: Talos, el primer robot que según la mitología griega, era una estatua animada con la tarea de defender Creta de los piratas; los autómatas creados por Dédalo, repesentados como estatuas animadas que necesitaban estar atados a un pedestal ya que, de lo contrario, existía el riesgo de que escaparan como esclavos fugitivos; o las muchachas doradas de Hefesto, dos robots femeninos que actuaban como asistentes personales y se caracterizaban por poseer voz y sensibilidad. (Paipetis, 2010)

Ahora bien, al momento de rastrear a los primeros autómatas tangibles en el mundo, encontramos diversos casos relevantes. Amenhotep, quien en el año 1300 a. C. hizo confeccionar una escultura de Memon (monarca de Utopía), la cual se caracterizaba por ser capaz de emitir sonidos al ser iluminada por los primeros rayos del sol. King-su Tse, que durante el año 500 a. C. inventó un caballo de madera que podía dar saltos y una urraca de madera capaz de volar. Filón de Bizancio, ingeniero griego que construyó una mucama autómata diseñada para servir vino y agua. También destaca, la preciada agrupación mecánica de autómatas que se movilizaban de forma independiente, propiedad de Chin Shih Hueng Ti, descubierta durante el año 206 a. C. Más adelante, en el libro “Automata” escrito por Heron de Alejandría durante el año 62 d. C, se pueden encontrar diseños de juguetes que pueden movilizarse por sí mismos de manera repetitiva. Finalmente, tenemos el Buda sobre un carro que transita sin necesidad de ayuda, elaborado por Hsieh Fec en el año 335 d. C. (Sánchez-Martín et al., 2007)

Por su parte, Truitt (2015) refiere que, a pesar de que el único autómata de la antigüedad que sobrevivió al discurrir del tiempo, fue el Mecanismo de Anticitera, considerado como una computadora analógica compuesta por engranajes de precisión, se puede advertir que los manuales de autómatas confeccionados por los ingenieros alejandrinos fueron el pilar del desarrollo de la construcción de máquinas autónomas en el mundo islámico, caracterizado por la aparición del Kitab al- Hiyal (Libro de los dispositivos ingeniosos), que fue escrito alrededor del año 850, en el cual se puede encontrar un cúmulo de diseños sobre autómatas y embarcaciones, así como el árbol artificial que se encontraba decorado con pájaros mecánicos que fue confeccionado el año 827 para el califa al- Ma’mun. Es menester indicar que el autor menciona que los califas abasíes también exportaban autómatas en forma de obsequios diplomáticos a mandatarios extranjeros. Es así que una de las descripciones más antiguas y detalladas de un mecanismo autómata en el Occidente latino data del año 807 y corresponde a una clepsidra o reloj de agua, la cual fue enviada a Carlomagno por Harún al-Rashid.

Cabe resaltar que el Occidente latino también se nutrió del conocimiento sobre autómatas proveniente del imperio Bizantino, en donde, al igual que las cortes islámicas, los sistemas mecánicos desempeñaron un papel fundamental en rituales y demostraciones de poder, usadas por los emperadores bizantinos para fortalecer su autoridad. Uno de los exponentes más conocido de los autómatas bizantinos fue el Trono de Salomón, del que, si bien no queda nada, fue descrito por Liudprano (cortesano y diplomático) como un trono que, aunque a primera vista parecía una estructura baja, en un segundo momento se elevaba en el aire. Cabe mencionar que el trono se hallaba custodiado por leones de bronce que golpeaban el suelo con su cola y rugían con la boca abierta. (Truitt, 2015)

De esta manera, como resultado de la importación del conocimiento asociado a los autómatas proveniente tanto del imperio bizantino como del mundo islámico, se evidencia que durante la baja edad media, Villard de Honnecourt, ingeniero y artista francés, diseñó a lo largo de principios del siglo XIII diversos bocetos de autómatas; asimismo, destacan las figuras móviles fabricadas con el objetivo de adornar los relojes y torres de las iglesias como el gallo de la Catedral de Estrasburgo, construido en el curso del siglo XIV y que se caracterizaba por salir por una puerta al dar las doce del mediodía, abrir el pico, batir las alas y dar un fuerte canto. (Gasparetto, 2016)

Gasparetto (2016) manifiesta que en China resaltaron el caso de las máquinas ganaderas destinadas al transporte de cargas pesadas, y la torre de reloj automatizada con muñecos mecánicos que marcaban la hora y tocaban el gong y campanas, creado por Su Song en 1088. Por otro lado, en la civilización árabe encontramos el caso del inventor Al Jazaari (1136-1206), quien diseñó una amplia variedad de sistemas automáticos, entre los que destacan robots humanoides que podían tocar música. Lo más notable del presente caso fue que los autómatas se podían programar ajustando las levas que controlaban la percusión de los tambores, permitiendo de esta manera que se pudiesen tocar diferentes melodías. En Japón, a finales del siglo XVIII, se pudo observar que las familias acomodadas adquirieron autómatas para la diversión; también, es oportuno mencionar que en estas latitudes se hicieron muy populares las sirvientas de té autómatas, que se caracterizaban por poder movilizarse y servir una taza de té.

Posteriormente, durante el renacimiento, Giovanni da Fontana (1395-1454), un ingeniero italiano, a través del escrito denominado BellicorumInstrumentorum Liber (Libro sobre dispositivos bélicos), diseñó autómatas capaces de lanzar bombas o flechas. Asimismo, alrededor de 1495, Leonardo Da Vinci creó el primer proyecto documentado de un robot humanoide programable, el cual es descrito como un caballero autómata capaz de ponerse de pie y mover tanto la cabeza como los brazos. Finalmente, durante el siglo XVI, llama la atención la mosca de hierro que podía volar, que fue confeccionada por Johannes Mueller von Koenigsberg, y el escarabajo de madera volador de John Dee. (Gasparetto, 2016)

De la revisión histórica de los autómatas primitivos, se infiere que el ánimo de simular a los seres vivos es inherente a la historia de los robots; es así que todos estos entes han tratado de emular los principales rasgos de la vida y, además, generar la ilusión de que emanaron de la nada, de la materia inerte (Reeves & St-Onge, 2022). En esa misma línea, los autores señalan que, más que una simple simulación, el autómata aspiraba a convertirse en un dispositivo explicativo, dotado de capacidades descriptivas y diseñado para revelar los misterios de la vida. Un ejemplo de esta concepción, es el caso del pato de Vaucanson, conocido también como el pato digestor, el cual fue construido a finales del siglo XVII y que, según su autor, no solo se caracterizaba por poder beber, croar o chapotear en el agua, sino que también podía digerir y defecar. A pesar de que con el tiempo se llegó a revelar que el pato de Vaucanson era una farsa, lo cierto es que al considerar el modelo cartesiano– el cual sostiene que detrás del movimiento universal se encuentra un gran relojero y que los seres vivos se configuran como los sistemas mecánicos más sofisticados– tales inventos ejemplificaban la tendencia existente a la asociación de los seres vivientes con las tecnologías más sofisticadas de la época (Reeves & St-Onge, 2022).

Con el devenir del tiempo, el hecho de que tanto los hombres como los animales sean concebidos como seres mecánicos sofisticados, demandó el desarrollo de autómatas cada vez más avanzados, con una progresiva complejización de sus funciones (Reeves & St-Onge, 2022). Consecuentemente, narran los autores que, aproximadamente un siglo posterior a Descartes, los autómatas construidos por la familia Jaquet-Droz – dentro de los que sobresalen el músico capaz de tocar cinco piezas y el dibujante que podía confeccionar hasta cuatro dibujos – ocasionaron la ruptura inicial entre información y materia. Esto se dio porque a diferencia de autómatas previamente estudiados, los mecanismos de Jaquet se distinguían, no solo porque funcionaban a través de programas más avanzados a los desarrollados por Heron de Alejandría o Ctesibios, sino que, además, estos programas que se almacenaban en rollos o discos, podían modificarse para que de este modo se pudiesen variar los estados internos del autómata. De este modo, se apreciaban dos aspectos clave: en primer lugar, el autómata adquiría cierta independencia respecto a sus componentes materiales en movimiento y, en segundo lugar, la capacidad de modificar el programa daba paso a un cúmulo de posibilidades que eran reales, a pesar de tener limitaciones (Reeves & St-Onge, 2022).

El desarrollo de estos autómatas despertó intereses de carácter filosófico. Una muestra de ello, se apreció en el debate generado durante el siglo XVIII en torno a la posibilidad de poder modelar la inteligencia para, posteriormente, integrarla en las máquinas (Magnenat, 2021). La autora añade que, si bien Alan Turing durante 1950 creó el Test de Turing, un examen a través del cual se podía comprobar si es que el comportamiento inteligente de un sistema es equivalente o indistinguible del de una persona, con el devenir del tiempo se consideró que el test adolecía de ciertas falencias. Con el desarrollo de las teorías de inteligencia social y emocional, entre los años 1980 y 1990, se concluyó que la inteligencia no se podía comprender únicamente como la capacidad para dar respuesta a preguntas lógicas, basada en un razonamiento lógico, sino también como la habilidad de tomar en cuenta el mundo real, las emociones y las interacciones sociales, aspectos que no podían medirse a través de la prueba de Turing; esto abrió paso para descubrimientos técnicos como los robots sociales inteligentes.

En 1990, se dio origen al primer robot social en el mundo, KISMET, autómata que se desarrolló en el Media Lab del MIT. Cabe resaltar que KISMET se caracteriza por ser capaz de expresar emociones en respuesta a humanos y por el hecho de que sus expresiones faciales fueron el resultado de integrar teorías pertenecientes a diversos ámbitos, como la biología evolutiva, psicología y el desarrollo infantil. (Ho et al., 2024; Breazeal, 2003)

En suma, como se desprende de lo expuesto, los autómatas nacieron en el imaginativo humano y se manifestaron a través de mitos hace milenios. Con el desarrollo tecnológico, se dio paso a los robots, caracterizados por imitar la vida y la inteligencia humana. A continuación, se analizará el papel de los robots sociales en el cuidado de pacientes.

Entre cables y algoritmos: la arquitectura de los robots sociales

En relación al término “robot”, se han elaborado diversas definiciones, como la del Robot InstituteofAmerica, entidad que los delimita como manipuladores multifuncionales y reprogramables, fabricados con el objetivo de trasladar materiales, herramientas o dispositivos específicos mediante movimientos programados y adaptables, dirigidos a la ejecución de un bagaje de tareas. (Considine & Considine, 1986)

No obstante, se considera pertinente poner especial énfasis en la propuesta de Winfield (2012), quien, a la luz de tres definiciones, resalta cualidades clave de los autómatas. Así, dentro del abanico de conceptualizaciones, encontramos:

1. En primer lugar, un robot puede entenderse como un dispositivo artificial capaz de percibir su entorno y operar deliberadamente sobre él. De esta manera, se resalta: la posibilidad de que el robot pueda entablar interacciones con su entorno, la idoneidad de los sistemas autónomos para sentir a través de sensores y la necesidad de que el robot realice acciones significativas; de lo contrario, el sistema carecería de propósito.
2. En segundo lugar, un robot es pasible de ser conceptualizado como una inteligencia artificial encarnada. De esta forma, se resalta la importancia de la IA respecto a los robots, ya que es lo que les confiere capacidad cognitiva y finalidad operativa. Incluso se ha llegado a afirmar que sin la IA, un autómata no sería más que un armazón mecánico sin utilidad.
3. En tercer lugar, un sistema autónomo puede ser comprendido como una máquina capaz de realizar un trabajo útil de manera autónoma. Esta definición pone de relieve la necesidad de que el robot sea funcional y sea capaz de llevar a cabo labores que comúnmente consideraríamos sucias, peligrosas o aburridas. De hecho, esta última definición es la que mantiene mayor proximidad con la palabra checa robota, la cual significa trabajo penoso o trabajo servil y que, además, inspiró originalmente la palabra robot.

En sintonía con lo expuesto, Guizzo (2023) reconoce que tanto definir como categorizar el cúmulo de robots existentes es una labor cada vez más compleja. No obstante, esboza una tipología que incluye principalmente: robots aeroespaciales, categoría que agrupa a las máquinas inteligentes destinadas a aplicaciones espaciales; robots acuáticos, empleados generalmente en tareas de vigilancia e inspección marítima o en la recopilación de datos ambientales de los océanos; vehículos autónomos, que son coches equipados con ordenadores, GPS, cámaras y otros mecanismos avanzados de detección y navegación que les facilitan desplazarse sin intervención humana; robots domésticos, los cuales comprenden aquellos androides destinados al apoyo en tareas del hogar; robots sociales, cuya función es comunicarse e interactuar con los humanos, brindar apoyo en actividades cotidianas o simplemente ofrecer compañía. Si bien esta lista podría ampliarse aún más, para los fines de la presente investigación, nos centraremos en el último tipo.

Dentro del universo de conceptos que se han tejido en torno al término robot social se pueden encontrar los de Haque et al. (2023), que entienden el término robot social como aquel mecanismo autónomo capaz de entablar comunicación con otros seres humanos o robots, respetando tanto los comportamientos sociales como aquellas normas vinculadas a su función dentro de un grupo. David et al. (2022) sostienen que un robot social es aquel autómata capaz de interactuar socialmente de manera verbal o no verbal con las personas y que provocan reacciones sociales en los usuarios. Por su parte, Sheridan (2020) afirma que un robot social es aquel autómata diseñado para asistir a una persona en interacciones de cuidado, en lugar de realizar una tarea mecánica. Iqbal et al. (2024) mencionan que un robot socialmente inteligente es capaz de procesar información, ser consciente de su entorno social y responder coherentemente a las normas sociales humanas. Robert et al. (2024) conceptualizan a los robots sociales como aquellos autómatas de vanguardia que mantienen una forma antropomórfica o humanoide, los cuales superan las funciones robóticas clásicas gracias a la conexión a servicios en línea mediante una infraestructura de red, además mencionan que este tipo de robots son capaces de capturar el estado de la actividad física del usuario a través de sensores y cámaras, almacenar información personalizada e interrelacionarse con los seres humanos mediante la prestación de servicios y la comunicación.

Siendo así, basándonos en las definiciones previamente expuestas, podemos inferir que los robots sociales son autómatas de última generación que suponen principalmente cuatro componentes. En primer lugar, el componente físico, es decir, la forma antropomórfica o humanoide que deben mantener los autómatas junto a aquellos dispositivos necesarios para recepcionar y almacenar información del entorno. En segundo lugar, el componente social, ya que estos autómatas ajustan su comportamiento de acuerdo con las normas humanas. En tercer lugar, el componente teleológico, debido a que más allá de interactuar con el entorno, hombres u otros robots sociales, los sistemas sociales buscan asistir a otros sujetos en interacciones de cuidado. Por último, el componente lógico, debido a que los robots sociales se encuentran conectados a servicios en línea mediante una infraestructura de red.

Henschel et al. (2021) señalan que, en cuanto al aspecto físico de los robots sociales, los diseñadores buscan incorporar características humanas en sus creaciones, procurando evitar una mimetización excesiva del movimiento o del aspecto humano, para que, de este modo, no se caiga en el fenómeno conocido como valle inquietante (uncannyvalley). Ahora bien, cabe destacar que la apariencia casi humana de los robots sería un arma de doble filo: por un lado este tipo de diseños se configura como una señal que denota la predisposición de los robots hacia la interacción con el entorno; pero, por otro lado, aumenta la probabilidad de que el robot no cumpla con las altas expectativas relacionadas a la naturaleza de su interacción.

Por otro lado, Ho et al. (2024) mencionan que respecto a la Interacción Humano-Robot (IHR) social –área que ha cobrado mayor notoriedad en razón del avance disruptivo de los robots sociales– existen tres ámbitos principales que resumen el contenido de la misma: el primero, la generación de tecnologías de reconocimiento, percepción y expresión para que los autómatas interactúen con los humanos, que emplea tanto la inteligencia artificial como la robótica para el diseño de tecnologías para la conciencia situacional y de percepción; el segundo, la investigación sobre la psicología humana y la percepción robótica, campo centrado en el análisis de los factores psicosociales intervinientes en la interacción, percepción y generación de relaciones humano-máquina; y, el tercero, el diseño de autómatas capaces de interactuar con humanos, sector que no solo comprende el diseño del aspecto físico del robot, sino que también comprende el diseño de la experiencia de usuario invisible.

Por su parte, Bisconti (2024) basándose en las capacidades, ámbitos de uso, matices de interacción y técnicas del cúmulo de robots sociales, esboza la siguiente clasificación: robots terapéuticos, ideales para entornos sanitarios, cuyo mayor exponente es PARO, un robot en forma de foca diseñado para estimular a los pacientes que padecen trastornos cognitivos; robots humanoides, que se caracterizan por estar enfocados principalmente en emular la interacción y comportamiento humano, y, además, ser idóneos para la investigación, educación y ámbito sanitario (cabe añadir que como representante de este grupo, encontramos a NAO, un robot desarrollado por SoftBank Robotics, capaz de caminar, hablar e, incluso, localizar obstáculos en su camino); y, finalmente, robots de servicio, cuyo objetivo es guiar a las personas, trasladar objetos y servir comida; en representación de esta categoría está TIAGO, un autómata equipado con una base, torso y brazos móviles, capaz de desplazarse y manipular objetos en entornos humanos.

En este contexto, los robots sociales tienen el potencial de desplegarse en múltiples ámbitos; por lo que consideramos que, debido a su capacidad de interacción, su apariencia antropomórfica y su funcionalidad motora básica, este tipo de autómatas resulta aparentemente idóneo para el cuidado de pacientes. A continuación, se analizará la aplicación de los robots sociales dentro del sector clínico, en especial respecto a la asistencia sanitaria.

Los robots sociales y el sector sanitario: rumbo al cuidado de pacientes 4.0

Triantafyllidis et al. (2023) sostienen que los robots sociales han redimensionado las tecnologías de la salud, debido a que, a diferencia de otras modalidades de salud digital como los agentes virtuales o aplicaciones móviles, los autómatas sociales posibilitan la interacción con el entorno físico y, además, hacen viables las interacciones naturales con las personas a través de gestos, tacto o la voz; es así que, probablemente los robots sociales podrían materializar la gestión o prevención eficaz de enfermedades a través de factores clave como la educación, la orientación interactiva y la motivación.

Ahora bien, respecto al diseño de robots sociales para el ámbito sanitario, Ho et al. (2024) sostienen que la colaboración interdisciplinaria IHR puede ser llevada a cabo de la siguiente manera: durante la primera fase, el grupo de expertos esboza los requisitos del robot considerando el uso previsto como el monitoreo de pacientes o el apoyo en actividades cotidianas; en la segunda fase, los ingenieros desarrollan el prototipo en base a los requisitos para que, posteriormente, los psicólogos analicen la efectividad de los autómatas y la satisfacción del usuario a través de pruebas con usuarios reales; durante la tercera fase, los ingenieros refinan el prototipo tomando como referencia los resultados de las pruebas; mientras que los psicólogos informarán sobre las consecuencias que podrían acarrear los cambios en la respuesta emocional y la interacción del usuario; finalmente, en el curso de la cuarta fase, se inserta al robot en entornos del mundo real. Es relevante añadir que el robot se encontrará en constante evaluación, mientras esté activo, buscando de este modo el recabar datos y realizar mejoras.

Asimismo, respecto a las aplicaciones de los robots sociales en entornos sanitarios, Ho et al. (2024) indican que a pesar de que los robots sociales no se han implementado del todo en espacios clínicos reales, las potenciales funciones que podrían desempeñar este tipo de autómatas se podrían agrupar en: la asistencia de enfermería y cuidados, ya que los robots podrían emplearse para brindar atención a pacientes, especialmente mayores (asistencia en las comidas, administrar medicamentes o gestionar monitoreos médicos básicos); rehabilitación y mejora cognitiva de adultos mayores, debido a que los autómatas pueden realizar ejercicios con los adultos, como parte de la fisioterapia, o también, entrenar cerebralmente a los pacientes mediante juegos; apoyo social y emocional, ya que los sistemas al percibir en el paciente emociones como la ansiedad o depresión, pueden escuchar y ofrecer palabras de consuelo para alcanzar la estabilización del atendido; monitoreo de pacientes, debido a que los mecanismos inteligentes son capaces de vigilar el estado de salud de los pacientes y además compilar la data necesaria; y, finalmente, el suministro de información médica y educación, en virtud de que las entidades mecánicas sociales no solo son capaces de brindar información médica a los pacientes, sino que además los robots sociales poseen la habilidad de impartir educación sobre la prevención de enfermedades, manejo de medicamentos y el fomento de hábitos de vida saludables.

En la misma línea, González-González et al. (2021) mencionan que existen dos grupos en el entorno sanitario donde las aplicaciones que se basan en robots sociales se encuentran ampliamente difundidas: los niños y los ancianos. Los autores indican que, en el caso de los niños, los robots sociales son aplicados principalmente a pacientes que padecen cáncer, ya que los autómatas se encuentran capacitados para mejorar la calidad de vida de los niños mediante dinámicas sociales y de juego. Además, es importante destacar que los dispositivos automatizados también podrían vigilar y evaluar procesos terapéuticos o incluso analizar la orina de niños con cáncer. Por otro lado, en cuanto a los ancianos, se ha podido apreciar que los robots sociales demostraron gran eficacia para manejar la vida dependiente, el aislamiento social y la depresión.

En esa misma dirección, en la Tabla 1 se presenta la relación de algunos robots sociales empleados en el sector sanitario.

Tabla 1

Ejemplos de robots sociales en el sector sanitario

Nota: la presente tabla muestra las capacidades que poseen los autómatas sociales respecto al cuidado de pacientes, sumado a las características de su diseño en general.

Fuente: Elaborada por el autor.

En ese sentido, si bien en un primer momento la idea de emplear robots se asocia a ventajas como la reducción considerable de costos de diversa naturaleza o el crecimiento exponencial de la productividad, se hace necesario develar los costos socio-jurídicos que se desprenden de la injerencia de los robots a bordo del sector de la salud.

Develando las implicancias socio-jurídicas de los robots sociales dentro del sector sanitario

Aunque la incorporación de los robots sociales en diversos ámbitos ha generado múltiples conflictos en diversos sectores, sostenemos que dentro de las problemáticas más significativas se encuentran aquellas cuestiones con tintes socio-jurídicos. Por ello, a continuación se expondrán las principales controversias sociales derivadas del uso de los robots sociales en el cuidado del paciente.

¿Hacia la redimensión de las relaciones sanitarias?

Es sabido que la evolución de las relaciones sanitarias ha sufrido diversas transformaciones con el paso del tiempo. Autores como Elío-Calvo (2021) o Lázaro y Gracia (2006), han tratado de explicar la evolución histórica de la profesión médica y su relación con el paciente, relatando la travesía por la que tuvo que atravesar el personal médico hasta llegar a un escenario en el que el enfermo no solo se interactúa con su médico, sino que también mantiene relaciones con diversos elementos del centro sanitario como el personal de enfermería o los auxiliares. Ahora bien, el auge de las máquinas ha desatado una corriente que se caracteriza por la necesidad de brindar una mayor independencia a los sistemas en diversos ámbitos, como el judicial, donde cada vez cobra más fuerza la posibilidad de que jueces robot impartan justicia. En ese sentido, surge la pregunta: ¿existe la posibilidad de que en algún momento la tecnología origine una relación paciente-robot, en la que se pierda el elemento humano? Respecto a esta cuestión, consideramos que, aunque pudiera llegar a materializarse una relación paciente-robot como producto del avance tecnológico, lo cierto es que existen riesgos como los sesgos algorítmicos –es decir, aquellas situaciones en las que el uso de un algoritmo agrava las desigualdades existentes relacionadas con el estatus socioeconómico, el origen étnico, la raza, el género, la religión, la orientación sexual o la discapacidad (Panch et al., 2019)– que impiden que, bajo cualquier circunstancia, el sistema sea completamente independiente y mucho menos en el ámbito sanitario, donde un error podría generar daños irreparables, al menos hasta que estos errores inherentes a las máquinas puedan ser corregidos.

Por su parte, Devittori et al. (2024) sostienen que, aunque el uso no supervisado de robots aún no se encuentra ampliamente difundido, la rehabilitación asistida por autómatas sin supervisión se configura como un enfoque prometedor para incrementar las terapias tras un ictus, lo que permitiría favorecer la recuperación sensoriomotora sin requerir recursos ni personal adicionales. No obstante, considerando que los autómatas pueden presentar limitaciones en términos de usabilidad o generar inseguridad en la percepción de los pacientes (Devittori et al., 2024), estimamos que la configuración adecuada –y necesaria– de cara al futuro será la de una relación tripartita entre paciente, robot y médico supervisor, en la que el robot actúe siempre bajo la supervisión directa del profesional médico.

La desconfianza de los humanos hacia los robots

La confianza se configura como un factor a través del cual se predice la calidad de la IHR y el nivel de disponibilidad que poseen las personas respecto al uso de robots para determinadas actividades. Además, la confianza jugaría un papel crucial en la relación humano – robot social, sobre todo en el cuidado de la salud, donde esta es asociada con el bienestar del paciente y la eficacia del tratamiento (Naneva et al., 2020). En ese sentido, a pesar que los estudios que analizan la confianza de los humanos en las máquinas aún son escasos, Aymerich y Gómez (2024), después de haber analizado la percepción pública de los robots sociales para la atención sanitaria en Europa, identificaron que: existe una relación positiva entre el miedo a los robots y las creencias religiosas; asimismo, se evidenció una conexión favorable entre el contacto previo con robots y las percepciones sobre ellos; finalmente, las autoras mencionan que las mujeres muestran una menor adaptación a los robots en comparación con los hombres. Consiguientemente, como posible solución a la desconfianza expuesta anteriormente, autores como Langer et al. (2019) proponen diversas estrategias: en primer lugar, la personalización de los robots, es decir, la capacidad de un robot para identificar y ajustarse a las preferencias del usuario, podría generar relaciones de confianza duraderas con los humanos; en segundo lugar, los robots deberían ser capaces de manifestar intenciones reconocibles mediante expresiones faciales, gestos y otras señales de comportamiento; y, en tercer lugar, respecto a los errores cometidos por autómatas, subrayan la necesidad de fabricar robots preparados para fallas, en otras palabras, robots que, si bien no siempre operan de manera perfecta, estén diseñados para reducir al mínimo las consecuencias de sus errores y limitaciones. Es pertinente señalar que la implementación de una supervisión constante podría contribuir a fortalecer la confianza de los usuarios en los robots, al permitir detectar y corregir errores de forma oportuna, garantizando así un uso más seguro y predecible del sistema.

¿Realmente es necesario humanizar a las máquinas?

Al hablar de humanizar a los robots nos referimos al esfuerzo para hacer que los autómatas reproduzcan con mayor fidelidad tanto la apariencia como el comportamiento humano, incluyendo la manifestación de estados cognitivos y emocionales semejantes a los de una persona (Giger et al., 2019). En relación con lo anterior, los autores sostienen que la humanización robótica se materializaría a través de la integración de competencias sociales (como el lenguaje, la personalidad, la empatía, las emociones y la comunicación no verbal), éticas (incluyendo la moral y los valores) y espirituales (cultura, tradición y religión). Incluso, Poole (2024), yendo un poco más allá, al considerar la posibilidad de codificar un alma en los robots, argumenta que en la actualidad no es viable el codificar el alma o la conciencia debido a la ausencia de un consenso en torno a las conceptualizaciones, así como establecer si ambas son categorías codificables en cualquier contexto. Del mismo modo, es poco probable que se alcance un acuerdo global respecto a cuál concepción de la humanidad debería orientar dicho proceso. Sumado a ello, el autor menciona que antes de intentar codificar conceptos complejos como el alma, es necesario aunar esfuerzos para erradicar problemáticas como los sesgos algorítmicos.

En coherencia con lo anterior, Robert (2017) señala que, si bien la humanización de los robots ha traído consigo diversas ventajas como el hecho de que se ha demostrado que, cuanto más humano parece el robot, tanto física como funcionalmente, mayor es la confianza que los humanos depositan en él, también, ha dado lugar a un bagaje de problemáticas que pueden abordarse a partir de tres premisas fundamentales: 1) la humanización incide en nuestras emociones hacia los robots, debido a que las emociones que sentimos por los autómatas pueden fluctuar desde un afecto moderado hacia sistemas que poseen menos rasgos humanos, hasta sentimientos más intensos como el amor, cuando la máquinas posean mayores rasgos antropomórficos; 2) la humanización condiciona las expectativas sociales respecto al rol de los robots, ya que en la medida en que adquieran una apariencia y comportamiento más humano, aumenta la tendencia a asignarle roles y responsabilidades típicamente humanas dentro de la sociedad; 3) la humanización influye en las normas sociales percibidas sobre la interacción con los robots porque la percepción de las personas sobre un uso adecuado o inapropiado de los robots, se modifica según el nivel de humanidad que les atribuye.

Corresponde destacar que Johansson et al. (2022) mencionan que no se considera que los robots humanizados con emociones se configuren como una meta deseable; es más, los autores indican que –en ámbitos en donde los robots se encargan de cuidar a personas mayores– el verdadero desafío radica en reconocer escenarios de uso concreto en los servicios de cuidado a las personas de tercera edad, contemplando las necesidades reales de los usuarios, el grado de madurez de la tecnología implementada y la alfabetización digital.

A continuación, se abordarán las problemáticas de índole jurídico que conlleva el despliegue de los robots sociales en el cuidado de las personas.

¿ Responsabilidad civil de los robots?

El primer caso documentado de un ser humano fallecido a causa de un robot fue la de Robert Williams, quien, en 1979, murió de manera instantánea al ser golpeado por un brazo robótico mientras recogía piezas en un almacén, tarea que la máquina también gestionaba (Kravets, 2010). Desde entonces, han surgido cifras que no son nada alentadoras, tal es el caso de Sanders et al. (2024), quienes basándose en informes de lesiones graves confeccionados por la Administración de Seguridad y Salud Ocupacional de los Estados Unidos de Norteamérica (con siglas OSHA en inglés), identificaron 77 accidentes en donde estuvieron involucrados robots entre el 2015 y 2022, de los cuales un 70% fueron atribuidos a robots estacionarios. Cabe señalar que las lesiones en su mayoría fueron fracturas de cabeza y amputaciones de dedos. Por otro lado, el 30% restante fueron ocasionados por robots móviles y se materializaron principalmente en fracturas en las piernas y los pies. Por su parte, Lee et al. (2021) mencionan que, acorde al Informe Anual de Estadísticas de Accidentes Ocupacionales desarrollado por el Ministerio de Empleo y Trabajo de Corea, entre 2009 y 2019, se han llegado a reportar 369 accidentes vinculados a robots a lo largo de la última década. En correspondencia con lo anterior, Alemzadeh et al. (2016), analizaron los accidentes que involucran a robots en el sector sanitario, tomando como referencia la información sobre incidentes adversos asociados a la utilización de sistemas e instrumentos robóticos implicados en procedimientos quirúrgicos mínimamente invasivos, proveniente de la base de datos de experiencia de dispositivos de fabricantes y usuarios (MAUDE, sigla en inglés) de la Administración de Alimentos y Medicamentos (FDA, sigla en inglés) del Gobierno de los Estados Unidos. Concluyeron que, entre enero de 2000 y diciembre de 2013, se reportaron 144 decesos, 1391 casos de lesiones en pacientes y 8061 incidentes de fallos en los dispositivos. De igual manera, Bendix (2024) narra que, durante el 2018, más de una docena de pacientes padecieron lesiones o quemaduras como producto del uso del robot Da Vinci en intervenciones médicas. Cabe indicar que en 2015 una mujer sufrió quemaduras y daños en el colon, después de haber sido intervenida quirúrgicamente con el sistema quirúrgico robótico.

Frente a esta problemática, Shentu (2024) advierte que se hace complejo establecer si los accidentes son consecuencia de fallos en el diseño inicial, errores en la fabricación o problemas surgidos durante su uso, ya que, si la evidencia revela que el defecto proviene del mismo robot, sería razonable hacer responsables a los fabricantes; no obstante, demostrarlo en la práctica es casi imposible. Asimismo, el autor indica que el atribuir la responsabilidad de un incidente médico al equipo de desarrollo, se hace incluso más irrazonable, en razón de que el diseño de robots médicos inteligentes conlleva inherentemente fallas técnicas inevitables. En ese sentido, salvo que se llegue a demostrar que el error fue causado intencionalmente, es prácticamente inviable responsabilizar a los programadores por esta clase de defectos. Siendo este el escenario, al igual que el autor, surge la pregunta ¿Quién debería asumir la responsabilidad?

Frente a este cuestionamiento, Bustamante-Cabrera et al. (2024), después de haber analizado diversos instrumentos jurídicos que podrían dar solución a la problemática de la responsabilidad robótica a nivel internacional, mencionan que, en el caso de la Unión Europea, la Ley de Inteligencia Artificial ha instaurado tanto obligaciones como responsabilidades para los usuarios y proveedores. Asimismo, en lo que respecta a Brasil, a través del proyecto de Ley 2338 de 2023, se establecen responsabilidades y deberes para los sujetos que participaron en el desarrollo de sistemas de IA.

Por último, Núñez (2019) plantea como alternativa al sistema común de responsabilidad civil –al que califica como ineficaz–, considerar la posibilidad de atribuir a los sistemas inteligentes una forma de personalidad jurídica propia y específica, también conocida como personalidad electrónica, buscando de este modo que sea el propio autómata quien deba responder por los perjuicios ocasionados dentro de su esfera de autonomía pre-programada.

Peligros relacionados a la data médica

Para las fases de investigación, diseño y pruebas de robots médicos, se hace necesario el recopilar un volumen considerable de información como antecedentes genéticos familiares, registros de diagnósticos e historiales médicos de usuarios (Shentu, 2024). En ese sentido, el autor sugiere que, dado que entre los grupos con acceso a estas gigantescas bases de datos se encuentran investigadores, personal médico, distribuidores, desarrolladores y por supuesto, los propios robots médicos, existe la posibilidad de que la confidencialidad de los pacientes pueda verse amenazada por posibles filtraciones de data, acceso no autorizado o robos –ya sea por factores humanos o no–, lo que eventualmente acarrearía una transgresión directa a la privacidad, seguridad personal y reputación del usuario. A modo de ejemplo, Shentu (2024) advierte que, solo durante el año 2020, se detectó que más de 4,97 millones de instancias de datos de imágenes médicas fueron transmitidas por Internet desde China, incluyendo 3347 direcciones de IP nacionales, con aproximadamente 400.000 instancias de datos sin anonimizar; adicionalmente, más de 7 millones de datos genéticos de ciudadanos chinos fueron transferidos al extranjero a través internet.

En suma, tal como se ha podido apreciar, la incorporación de los robots sociales dentro del ámbito sanitario acarrea un conjunto de cuestiones de diversa índole. No obstante, consideramos que las cuestiones de carácter socio jurídico requieren ser abordadas con mayor premura, dado que la no observación de estos desafíos, conllevaría al daño de bienes jurídicos esenciales como la vida.

Conclusiones

La pandemia del COVID, junto con la aparición de tecnologías disruptivas como la robótica y la inteligencia artificial, ha acelerado la incorporación de robots en el ámbito sanitario. En algunos países, incluso la escasez de personal de enfermería ha sido un factor determinante para impulsar esta transición. Si bien estos autómatas resultan atractivos al entorno por las ventajas que ofrecen, como la reducción de costos y el aumento considerable de eficacia, ha puesto en evidencia que el uso de los robots sociales se configuran como una fuente de desafíos jurídico – sociales, que no pueden ser ignorados.

A nivel social, la presencia de autómatas sociales podría transformar la tradicional relación médico-paciente. Es probable que las máquinas asuman tareas rutinarias, lo que permitirá que el personal médico pueda centrarse en labores mucho más complejas. No obstante, esta realidad demanda establecer mecanismos de supervisión adecuados, especialmente al considerar determinados riesgos como los sesgos algorítmicos. Asimismo, respecto a la desconfianza por parte de los humanos hacia las máquinas, resulta imprescindible la integración de grupos multidisciplinarios para diseñar robots con la capacidad de construir credibilidad en la sociedad. Por último, en relación a la humanización de las máquinas, antes de preocuparnos por humanizar a los robots, debemos enfocarnos en la solución de problemas de mayor trascendencia como los sesgos algorítmicos, que ponen en una situación de vulnerabilidad diversos bienes jurídicos fundamentales.

A nivel jurídico, en relación con la responsabilidad jurídica por el accionar de los autómatas, se observa que entidades como la Unión Europea han intentado abordar esta cuestión mediante la generación de cuerpos normativos ad hoc. Del mismo modo, y en un esfuerzo por seguir el ejemplo europeo, países como Brasil vienen formulando propuestas normativas a través de proyectos de leyes específicos.

Finalmente, resulta imperativo resaltar las cuestiones relacionadas a la protección de datos personales, dado que malas prácticas durante los procesos de construcción, ejecución y eliminación de robots sociales, podrían facilitar filtraciones, robos o accesos no autorizados a información y datos personales de numerosos usuarios, lo que constituiría una grave y directa vulneración a la reputación, privacidad y seguridad personal de los individuos.

Referencias

Abdul, N., Leow, Y., Klainin, P., Itoh, S. & Xi, V. (2023). The effectiveness of a therapeutic robot, ‘Paro’, on behavioural and psychological symptoms, medication use, total sleep time and sociability in older adults with dementia: A systematic review and meta-analysis. International Journal of Nursing Studies, 145. https://doi.org/10.1016/j.ijnurstu.2023.104530

Alemzadeh, H., Iyer, R., Kalbarczyk, Z., Leveson, N. & Raman, J. (2016). Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA Data. PLOS one, 11(4). https://doi.org/10.1371/journal.pone.0151470

Amirova, A., Rakhymbayeva, N., Yadollahi, E., Sandygulova, A. & Johal, W. (2021). 10 Years of Human-NAO Interaction Research: A Scoping Review. Frontiers in Robotics and AI, 8. https://doi.org/10.3389/frobt.2021.744526

Aymerich, L. & Gómez, E. (2024). Public perception of socially assistive robots for healthcare in the EU: A large-scale survey. Computers in Human Behavior Reports, 15. https://doi.org/10.1016/j.chbr.2024.100465

Bendix, A. (8 de febrero de 2024). Robotic device burned a woman’s small intestine during surgery, lawsuit alleges. NBC News. https://www.nbcnews.com/health/health-news/robotic-device-burned-womans-small-intestine-surgery-lawsuit-alleges-rcna137998

Bisconti, P. (2024). Hybrid Societies: Living with Social Robots. Routledge.

Breazeal, C. (2003). Emotion and sociable humanoid robots. International Journal of Human-Computer Studies, 59(1), 119-155. https://doi.org/10.1016/S1071-5819(03)00018-1

Bustamante-Cabrera, G., Zuviría-López, Z. & Mondragón-Barrios, L. (2024). Desafíos éticos y humanísticos en la inteligencia artificial y la robótica: Metasíntesis. Apuntes De Bioética, 7(2). https://doi.org/10.35383/apuntes.v7i2.1147

Considine, D. & Considine, G. (1986). Robot Technology Fundamentals. En D. Considine & G. Considine (Eds). Standard Handbook of Industrial Automation (pp. 262–320). Springer.

David, D., Thérouanne, P. & Milhabet, I. (2022). The acceptability of social robots: A scoping review of the recent literature. Computers in Human Behavior, 137. https://doi.org/10.1016/j.chb.2022.107419

Devittori, G., Dinacci, D., Romiti, D., Califfi, A., Petrillo, C., Rossi, P., Ranzani, R., Gassert, R. & Lambercy, O. (2024). Unsupervised robot-assisted rehabilitation after stroke: feasibility, effect on therapy dose, and user experience. Journal of NeuroEngineering and Rehabilitation, 9. https://doi.org/10.1186/s12984-024-01347-4

Elío-Calvo, D. (2021). La Relación Médico Paciente. Revista Médica La Paz, 27(2).

Elwaly, A., Abdellatif, A. & El-Shaer, Y. (2024). New Eldercare Robot with Path-Planning and Fall-Detection Capabilities. Applied Sciences, 14(6). https://doi.org/10.3390/app14062374

Favela, J., Cruz-Sandoval, D., Marques, M. & Muchaluat-Saade, D. (2024). Social Robots for Healthcare and Education in Latin America. Communications of the ACM, 67(8), 70 – 71. https://doi.org/10.1145/3653320

Gasparetto, A. (2016). Robots in History: Legends and Prototypes from Ancient Times to the Industrial Revolution. En C. López & M. Ceccarelli (Eds.), Explorations in the History of Machines and Mechanisms: Proceedings of the Fifth IFToMM Symposium on the History of Machines and Mechanisms (pp. 39-50). Springer.

Ghafurian, M., Chandra, S., Hutchinson, R., Lim, A., Baliyan, I., Rhim, J., Gupta, G., Aroyo, A., Rasouli, S. & Dautenhahn, K. (2024). Systematic Review of Social Robots for Health and Wellbeing: A Personal Healthcare Journey Lens, ACM Transactions on Human-Robot Interaction, 14(1), 1-48. https://doi.org/10.1145/3700446

Giger, J., Piçarra, N., Alves-Oliveira, P., Oliveira, R. & Arriaga, P. (2019). Humanization of robots: Is it really such a good idea? Human Behavior and Emerging Technologies, 1(2), 111-123. https://doi.org/10.1002/hbe2.147

González-González, C. S., Violant-Holz, V. & Gil-Iranzo, R. M. (2021). Social Robots in Hospitals: A Systematic Review. Applied Sciences, 11(13). https://doi.org/10.3390/app11135976

Guizzo, E. (23 de mayo de 2023). Types of Robots: Categories frequently used to classify robots. Robots. https://robotsguide.com/learn/types-of-robots

Haque, S., Rahman, M., Haque, E., Banik, N., Ahmed, U. & Habibur, M. (2023). Assistive robotic technologies: An overview of recent advances in medical applications. En O. Boubaker (Ed.), Medical and Healthcare Robotics: New Paradigms and Recent Advances (pp. 1-23). Academic Press.

Henschel, A., Laban, G. & Cross, E. (2021). What Makes a Robot Social? A Review of Social Robots from Science Fiction to a Home or Hospital Near You. Current Robotics Reports, 2, 9–19. https://doi.org/10.1007/s43154-020-00035-0

Heuvel, R., Lexis, M. & Witte, L. (2017). Robot ZORA in rehabilitation and special education for children with severe physical disabilities: a pilot study. International Journal of Rehabilitation Research, 40(4). https://doi.org/10.1097/MRR.0000000000000248

Heuvel, R., Lexis, M. & Witte, L. (2020). ZORA Robot Based Interventions to Achieve Therapeutic and Educational Goals in Children with Severe Physical Disabilities. International Journal of Social Robotics, 12, 493–504. https://doi.org/10.1007/s12369-019-00578-z

Ho, I., Hwan, D., Hyup, K., Lee, J., Kim, K., Park, J. & Seok, H. (2023). Human-Robot Interaction and Social Robot: The Emerging Field of Healthcare Robotics and Current and Future Perspectives for Spinal Care. Neurospine, 21(3). https://doi.org/10.14245/ns.2448432.216

Iqbal, R., Kunta, S., Nuryadin, I. & Arfawi, N. (2024). Human AI: Social robot decision-making using emotional AI and neuroscience. En M. Garg & D. Koundal (Eds.), Emotional AI and Human-AI Interactions in Social Networking (pp. 255-286). Academic Press.

Johanson, D., Seok, H., MacDonald, B., Kyu, B., Lim, J., Hwang, E., Sutherland, C. & Broadbent, E. (2020). The Effect of Robot Attentional Behaviors on User Perceptions and Behaviors in a Simulated Health Care Interaction: Randomized Controlled Trial. Journal of Medical Internet Research, 22(3). https://doi.org/10.2196/18362

Johansson, R., Zander, V., Gustafsson, C. & Gusdal, A. (2022). No thank you to humanized robots: attitudes to care robots in elder care services. Home Health Care Services Quarterly, 41(1), 40-53. https://doi.org/10.1080/01621424.2022.2052221

Kravets, D. (25 de enero de 2010). Jan. 25, 1979: Robot Kills Human. Wired. https://www.wired.com/2010/01/0125robot-kills-worker/

Langer, A., Feingold, R., Mueller, O., Kellmeyer, P. & Levy, S. (2019). Trust in socially assistive robots: Considerations for use in rehabilitation. NeuroscienceBiobehavioralReviews, 104, 231-239. https://doi.org/10.1016/j.neubiorev.2019.07.014

Lázaro, J. & Gracia, D. (2006). La relación médico-enfermo a través de la historia. Anales del Sistema Sanitario de Navarra, 29.

Lee, K., Shin, J. & Lim, J. (2021). Critical Hazard Factors in the Risk Assessments of Industrial Robots: Causal Analysis and Case Studies. Safety and Health at Work, 12(4), 496-504. https://doi.org/10.1016/j.shaw.2021.07.010

Magnenat, N. (2021). Social Robots: Their History and What They Can Do for Us. En H. Werthner, E. Prem, E. Lee & C. Ghezzi (Eds.), Perspectives on Digital Humanism (pp. 9–17). Springer.

Mayor, A. (2018). Gods and robots: Myths, Machines and Ancient Dreams of Technology. Editorial de la Universidad de Princeton.

McColl, D. & Nejat, G. (2013). Meal-time with a socially assistive robot and older adults at a long-term care facility. Journal of Human-Robot Interaction, 2(1), 152–171. https://doi.org/10.5898/JHRI.2.1.McColl

McColl, D., Louie, W. & Nejat, G. (2013). Brian 2.1: A Socially Assistive Robot for the Elderly and Cognitively Impaired. (1), 74–83. https://doi.org/10.1109/MRA.2012.2229939

Meghdari, A., Shariati, A., Alemi, M., Vossoughi, G., Eydi, A., Ahmadi, E., Mozafari, B., Amoozandeh, A. & Tahami, R. (2018). Arash: A social robot buddy to support children with cancer in a hospital environment. Proceedings of the Institution of Mechanical Engineers, Part H: Journal of Engineering in Medicine, 232(6). https://doi.org/10.1177/0954411918777520

Melkas, H., Hennala, L., Pekkarinen, S. & Kyrki, V. (2020). Impacts of robot implementation on care personnel and clients in elderly-care institutions. International Journal of Medical Informatics, 134. https://doi.org/10.1016/j.ijmedinf.2019.104041

Naneva, S., Gou, M., Webb, T. & Prescott, T. (2020). A Systematic Review of Attitudes, Anxiety, Acceptance, and Trust Towards Social Robots. International Journal of Social Robotics, 12, 1179–1201. https://doi.org/10.1007/s12369-020-00659-4

Nuñez, C. (2019). Inteligencia Artificial y Responsabilidad Civil: Régimen jurídico de los daños causados por robots autónomos con inteligencia artificial. Reus Editorial.

Paipetis, S. (2010). The Unknown Technology in Homer. Springer.

Panch, T., Mattie, H. & Atun, R. (2019). Artificial intelligence and algorithmic bias: implications for health systems. Journal of Global Health, 9(2). https://doi.org/10.7189/jogh.09.020318

Poole, E. (2024). Robot Souls: Programming in Humanity. CRC Press.

Raso, A., Pulcinelli, M., Schena, E., Puglisi, A., Pioggia, G., Carnevale, A. & Longo, U. (2024). A pilot study for assessing NAO humanoid robot assistance in shoulder rehabilitation. Journal of Experimental Orthopaedics, 21(1). https://doi.org/10.1002/jeo2.70122

Reeves, N. & St-Onge, D. (2022). Genealogy of Artificial Beings: From Ancient Automata to Modern Robotics. En D. Herath & D. St-Onge (Eds.), Foundations of Robotics: A Multidisciplinary Approach with Python and ROS (pp. 3-41). Springer Singapore. https://doi.org/10.1007/978-981-19-1983-1_1

Robert, L. P. (2017). The Growing Problem of Humanizing Robots. (1). https://doi.org/10.15406/iratj.2017.03.00043

Robert, L. P., Fantinato, M., You, S. & Hung, P. C. K. (2024). Social Robotics Business and Computing. Information Systems Frontiers: A Journal of Research and Innovation, 26, 1–8. https://doi.org/10.1007/s10796-023-10413-6

Rossi, S., Santini, S., Di Genova, D., Maggi, G., Verrotti, A., Farello, G., Romualdi, R., Alisi, A., Tozzi, A. & Balsano, C. (2022). Using the Social Robot NAO for Emotional Support to Children at a Pediatric Emergency Department: Randomized Clinical Trial. Journal of Medical Internet Research, 24(1). https://doi.org/10.2196/29656

Sánchez-Martín, F., Millán, F., Salvador-Bayarri, J., Monllau, V., Palou, J., Villavicencio, H. & Jiménez, P. (2007). Historia de la robótica: de Arquitas de Tarento al robot Da Vinci (Parte I). Actas Urológicas Españolas, 31(2), 69-76. https://doi.org/10.1016/S0210-4806(07)73602-1

Sanders, N., Şener, E. & Chen, K. (2024). Robot-related injuries in the workplace: An analysis of OSHA Severe Injury Reports. Applied Ergonomics, 121. https://doi.org/10.1016/j.apergo.2024.104324

Schneider, J. Brünett, M., Gebert, A., Gisa, K., Hermann, A., Lengenfelder, C., Roennau, A., Schuh, S. & Steffen, L. (2024). HoLLiECares - Development of a multi-functional robot for professional care. Frontiers in Robotics and AI, 11. https://doi.org/10.3389/frobt.2024.1325143

Shamsuddin, S., Yussof, H., Idzhar, L., Mohamed, S., Akhtar, F. & Ismarrubie, N. (2012). Humanoid Robot NAO Interacting with Autistic Children of Moderately Impaired Intelligence to Augment Communication Skills. Procedia Engineering, 41, 1533-1538. https://doi.org/10.1016/j.proeng.2012.07.346

Shentu, X. (2024). A review on legal issues of medical robots. Medicine (Baltimore), 103(21). https://doi.org/10.1097/MD.0000000000038330

Sheridan, T. (2020). A review of recent research in social robotics. Current Opinion in Psychology, 36, 7-12. https://doi.org/10.1016/j.copsyc.2020.01.003

Shibata, T., Hung, L., Petersen, S., Darling, K., Inoue, K., Martyn, K., Hori, Y., G. Lane., Park, D., Mizoguchi, R., Takano, C., Harper, S., Leeson, G. & Coughlin, J. (2021). PARO as a Biofeedback Medical Device for Mental Health in the COVID-19 Era. Sustainability, 13(20). https://doi.org/10.3390/su132011502

Sommer, D., Kasbauer, J., Jakob, D., Schmidt, S. & Wahl, F. (2024). Potential of Assistive Robots in Clinical Nursing: An Observational Study of Nurses’ Transportation Tasks in Rural Clinics of Bavaria, Germany. Nursing Reports, 14(1), 267-286. https://doi.org/10.3390/nursrep14010021

Steffen, L., Schulze, M., Eichmann, C., Koch, R., Hermann, A., Mussulin, R., Graaf, F., Wilbrandt, R., Große, M., Roennau, A. & Dillmann, R. (2024). HoLLiE C—A Multifunctional Bimanual Mobile Robot Supporting Versatile Care Applications. En S. Lee, J. An, N. Young, M. Strand & J. Kim (Eds.), Intelligent Autonomous Systems 18 (pp. 127–140). Springer.

Triantafyllidis, A., Alexiadis, A., Votis, K. & Tzovaras, D. (2023). Social robot interventions for child healthcare: A systematic review of the literature. Computer Methods and Programs in Biomedicine Update, 3. https://doi.org/10.1016/j.cmpbup.2023.100108

Truitt, E. (2015). Medieval Robots: Mechanism, Magic, Nature, and Art. Editorial de la Universidad de Pensilvania.

Winfield, A. (2012). Robotics: A Very Short Introduction. Editorial de Oxford.

Citas

1. Abdul, N., Leow, Y., Klainin, P., Itoh, S. & Xi, V. (2023). The effectiveness of a therapeutic robot, ‘Paro’, on behavioural and psychological symptoms, medication use, total sleep time and sociability in older adults with dementia: A systematic review and meta-analysis. International Journal of Nursing Studies, 145. https://doi.org/10.1016/j.ijnurstu.2023.104530
2. Alemzadeh, H., Iyer, R., Kalbarczyk, Z., Leveson, N. & Raman, J. (2016). Adverse Events in Robotic Surgery: A Retrospective Study of 14 Years of FDA Data. PLOS one, 11(4). https://doi.org/10.1371/journal.pone.0151470
3. Amirova, A., Rakhymbayeva, N., Yadollahi, E., Sandygulova, A. & Johal, W. (2021). 10 Years of Human-NAO Interaction Research: A Scoping Review. Frontiers in Robotics and AI, 8. https://doi.org/10.3389/frobt.2021.744526
4. Aymerich, L. & Gómez, E. (2024). Public perception of socially assistive robots for healthcare in the EU: A large-scale survey. Computers in Human Behavior Reports, 15. https://doi.org/10.1016/j.chbr.2024.100465
5. Bendix, A. (8 de febrero de 2024). Robotic device burned a woman’s small intestine during surgery, lawsuit alleges. NBC News. https://www.nbcnews.com/health/health-news/robotic-device-burned-womans-small-intestine-surgery-lawsuit-alleges-rcna137998
6. Bisconti, P. (2024). Hybrid Societies: Living with Social Robots. Routledge.
7. Breazeal, C. (2003). Emotion and sociable humanoid robots. International Journal of Human-Computer Studies, 59(1), 119-155. https://doi.org/10.1016/S1071-5819(03)00018-1
8. Bustamante-Cabrera, G., Zuviría-López, Z. & Mondragón-Barrios, L. (2024). Desafíos éticos y humanísticos en la inteligencia artificial y la robótica: Metasíntesis. Apuntes De Bioética, 7(2). https://doi.org/10.35383/apuntes.v7i2.1147
9. Considine, D. & Considine, G. (1986). Robot Technology Fundamentals. En D. Considine & G. Considine (Eds). Standard Handbook of Industrial Automation (pp. 262–320). Springer.
10. David, D., Thérouanne, P. & Milhabet, I. (2022). The acceptability of social robots: A scoping review of the recent literature. Computers in Human Behavior, 137. https://doi.org/10.1016/j.chb.2022.107419
11. Devittori, G., Dinacci, D., Romiti, D., Califfi, A., Petrillo, C., Rossi, P., Ranzani, R., Gassert, R. & Lambercy, O. (2024). Unsupervised robot-assisted rehabilitation after stroke: feasibility, effect on therapy dose, and user experience. Journal of NeuroEngineering and Rehabilitation, 9. https://doi.org/10.1186/s12984-024-01347-4
12. Elío-Calvo, D. (2021). La Relación Médico Paciente. Revista Médica La Paz, 27(2).
13. Elwaly, A., Abdellatif, A. & El-Shaer, Y. (2024). New Eldercare Robot with Path-Planning and Fall-Detection Capabilities. Applied Sciences, 14(6). https://doi.org/10.3390/app14062374
14. Favela, J., Cruz-Sandoval, D., Marques, M. & Muchaluat-Saade, D. (2024). Social Robots for Healthcare and Education in Latin America. Communications of the ACM, 67(8), 70 – 71. https://doi.org/10.1145/3653320
15. Gasparetto, A. (2016). Robots in History: Legends and Prototypes from Ancient Times to the Industrial Revolution. En C. López & M. Ceccarelli (Eds.), Explorations in the History of Machines and Mechanisms: Proceedings of the Fifth IFToMM Symposium on the History of Machines and Mechanisms (pp. 39-50). Springer.
16. Ghafurian, M., Chandra, S., Hutchinson, R., Lim, A., Baliyan, I., Rhim, J., Gupta, G., Aroyo, A., Rasouli, S. & Dautenhahn, K. (2024). Systematic Review of Social Robots for Health and Wellbeing: A Personal Healthcare Journey Lens, ACM Transactions on Human-Robot Interaction, 14(1), 1-48. https://doi.org/10.1145/3700446
17. Giger, J., Piçarra, N., Alves-Oliveira, P., Oliveira, R. & Arriaga, P. (2019). Humanization of robots: Is it really such a good idea? Human Behavior and Emerging Technologies, 1(2), 111-123. https://doi.org/10.1002/hbe2.147
18. González-González, C. S., Violant-Holz, V. & Gil-Iranzo, R. M. (2021). Social Robots in Hospitals: A Systematic Review. Applied Sciences, 11(13). https://doi.org/10.3390/app11135976
19. Guizzo, E. (23 de mayo de 2023). Types of Robots: Categories frequently used to classify robots. Robots. https://robotsguide.com/learn/types-of-robots
20. Haque, S., Rahman, M., Haque, E., Banik, N., Ahmed, U. & Habibur, M. (2023). Assistive robotic technologies: An overview of recent advances in medical applications. En O. Boubaker (Ed.), Medical and Healthcare Robotics: New Paradigms and Recent Advances (pp. 1-23). Academic Press.
21. Henschel, A., Laban, G. & Cross, E. (2021). What Makes a Robot Social? A Review of Social Robots from Science Fiction to a Home or Hospital Near You. Current Robotics Reports, 2, 9–19. https://doi.org/10.1007/s43154-020-00035-0
22. Heuvel, R., Lexis, M. & Witte, L. (2017). Robot ZORA in rehabilitation and special education for children with severe physical disabilities: a pilot study. International Journal of Rehabilitation Research, 40(4). https://doi.org/10.1097/MRR.0000000000000248
23. Heuvel, R., Lexis, M. & Witte, L. (2020). ZORA Robot Based Interventions to Achieve Therapeutic and Educational Goals in Children with Severe Physical Disabilities. International Journal of Social Robotics, 12, 493–504. https://doi.org/10.1007/s12369-019-00578-z
24. Ho, I., Hwan, D., Hyup, K., Lee, J., Kim, K., Park, J. & Seok, H. (2023). Human-Robot Interaction and Social Robot: The Emerging Field of Healthcare Robotics and Current and Future Perspectives for Spinal Care. Neurospine, 21(3). https://doi.org/10.14245/ns.2448432.216
25. Iqbal, R., Kunta, S., Nuryadin, I. & Arfawi, N. (2024). Human AI: Social robot decision-making using emotional AI and neuroscience. En M. Garg & D. Koundal (Eds.), Emotional AI and Human-AI Interactions in Social Networking (pp. 255-286). Academic Press.
26. Johanson, D., Seok, H., MacDonald, B., Kyu, B., Lim, J., Hwang, E., Sutherland, C. & Broadbent, E. (2020). The Effect of Robot Attentional Behaviors on User Perceptions and Behaviors in a Simulated Health Care Interaction: Randomized Controlled Trial. Journal of Medical Internet Research, 22(3). https://doi.org/10.2196/18362
27. Johansson, R., Zander, V., Gustafsson, C. & Gusdal, A. (2022). No thank you to humanized robots: attitudes to care robots in elder care services. Home Health Care Services Quarterly, 41(1), 40-53. https://doi.org/10.1080/01621424.2022.2052221
28. Kravets, D. (25 de enero de 2010). Jan. 25, 1979: Robot Kills Human. Wired. https://www.wired.com/2010/01/0125robot-kills-worker/
29. Langer, A., Feingold, R., Mueller, O., Kellmeyer, P. & Levy, S. (2019). Trust in socially assistive robots: Considerations for use in rehabilitation. Neuroscience & Biobehavioral Reviews, 104, 231-239. https://doi.org/10.1016/j.neubiorev.2019.07.014
30. Lázaro, J. & Gracia, D. (2006). La relación médico-enfermo a través de la historia. Anales del Sistema Sanitario de Navarra, 29.
31. Lee, K., Shin, J. & Lim, J. (2021). Critical Hazard Factors in the Risk Assessments of Industrial Robots: Causal Analysis and Case Studies. Safety and Health at Work, 12(4), 496-504. https://doi.org/10.1016/j.shaw.2021.07.010
32. Magnenat, N. (2021). Social Robots: Their History and What They Can Do for Us. En H. Werthner, E. Prem, E. Lee & C. Ghezzi (Eds.), Perspectives on Digital Humanism (pp. 9–17). Springer.
33. Mayor, A. (2018). Gods and robots: Myths, Machines and Ancient Dreams of Technology. Editorial de la Universidad de Princeton.
34. McColl, D. & Nejat, G. (2013). Meal-time with a socially assistive robot and older adults at a long-term care facility. Journal of Human-Robot Interaction, 2(1), 152–171. https://doi.org/10.5898/JHRI.2.1.McColl
35. McColl, D., Louie, W. & Nejat, G. (2013). Brian 2.1: A Socially Assistive Robot for the Elderly and Cognitively Impaired. IEEE Robotics & Automation Magazine, 20(1), 74–83. https://doi.org/10.1109/MRA.2012.2229939
36. Meghdari, A., Shariati, A., Alemi, M., Vossoughi, G., Eydi, A., Ahmadi, E., Mozafari, B., Amoozandeh, A. & Tahami, R. (2018). Arash: A social robot buddy to support children with cancer in a hospital environment. Proceedings of the Institution of Mechanical Engineers, Part H: Journal of Engineering in Medicine, 232(6). https://doi.org/10.1177/0954411918777520
37. Melkas, H., Hennala, L., Pekkarinen, S. & Kyrki, V. (2020). Impacts of robot implementation on care personnel and clients in elderly-care institutions. International Journal of Medical Informatics, 134. https://doi.org/10.1016/j.ijmedinf.2019.104041
38. Naneva, S., Gou, M., Webb, T. & Prescott, T. (2020). A Systematic Review of Attitudes, Anxiety, Acceptance, and Trust Towards Social Robots. International Journal of Social Robotics, 12, 1179–1201. https://doi.org/10.1007/s12369-020-00659-4
39. Nuñez, C. (2019). Inteligencia Artificial y Responsabilidad Civil: Régimen jurídico de los daños causados por robots autónomos con inteligencia artificial. Reus Editorial.
40. Paipetis, S. (2010). The Unknown Technology in Homer. Springer.
41. Panch, T., Mattie, H. & Atun, R. (2019). Artificial intelligence and algorithmic bias: implications for health systems. Journal of Global Health, 9(2). https://doi.org/10.7189/jogh.09.020318
42. Poole, E. (2024). Robot Souls: Programming in Humanity. CRC Press.
43. Raso, A., Pulcinelli, M., Schena, E., Puglisi, A., Pioggia, G., Carnevale, A. & Longo, U. (2024). A pilot study for assessing NAO humanoid robot assistance in shoulder rehabilitation. Journal of Experimental Orthopaedics, 21(1). https://doi.org/10.1002/jeo2.70122
44. Reeves, N. & St-Onge, D. (2022). Genealogy of Artificial Beings: From Ancient Automata to Modern Robotics. En D. Herath & D. St-Onge (Eds.), Foundations of Robotics: A Multidisciplinary Approach with Python and ROS (pp. 3-41). Springer Singapore. https://doi.org/10.1007/978-981-19-1983-1_1
45. Robert, L. P. (2017). The Growing Problem of Humanizing Robots. International Robotics & Automation Journal, 3(1). https://doi.org/10.15406/iratj.2017.03.00043
46. Robert, L. P., Fantinato, M., You, S. & Hung, P. C. K. (2024). Social Robotics Business and Computing. Information Systems Frontiers: A Journal of Research and Innovation, 26, 1–8. https://doi.org/10.1007/s10796-023-10413-6
47. Rossi, S., Santini, S., Di Genova, D., Maggi, G., Verrotti, A., Farello, G., Romualdi, R., Alisi, A., Tozzi, A. & Balsano, C. (2022). Using the Social Robot NAO for Emotional Support to Children at a Pediatric Emergency Department: Randomized Clinical Trial. Journal of Medical Internet Research, 24(1). https://doi.org/10.2196/29656
48. Sánchez-Martín, F., Millán, F., Salvador-Bayarri, J., Monllau, V., Palou, J., Villavicencio, H. & Jiménez, P. (2007). Historia de la robótica: de Arquitas de Tarento al robot Da Vinci (Parte I). Actas Urológicas Españolas, 31(2), 69-76. https://doi.org/10.1016/S0210-4806(07)73602-1
49. Sanders, N., Şener, E. & Chen, K. (2024). Robot-related injuries in the workplace: An analysis of OSHA Severe Injury Reports. Applied Ergonomics, 121. https://doi.org/10.1016/j.apergo.2024.104324
50. Schneider, J. Brünett, M., Gebert, A., Gisa, K., Hermann, A., Lengenfelder, C., Roennau, A., Schuh, S. & Steffen, L. (2024). HoLLiECares - Development of a multi-functional robot for professional care. Frontiers in Robotics and AI, 11. https://doi.org/10.3389/frobt.2024.1325143
51. Shamsuddin, S., Yussof, H., Idzhar, L., Mohamed, S., Akhtar, F. & Ismarrubie, N. (2012). Humanoid Robot NAO Interacting with Autistic Children of Moderately Impaired Intelligence to Augment Communication Skills. Procedia Engineering, 41, 1533-1538. https://doi.org/10.1016/j.proeng.2012.07.346
52. Shentu, X. (2024). A review on legal issues of medical robots. Medicine (Baltimore), 103(21). https://doi.org/10.1097/MD.0000000000038330
53. Sheridan, T. (2020). A review of recent research in social robotics. Current Opinion in Psychology, 36, 7-12. https://doi.org/10.1016/j.copsyc.2020.01.003
54. Shibata, T., Hung, L., Petersen, S., Darling, K., Inoue, K., Martyn, K., Hori, Y., G. Lane., Park, D., Mizoguchi, R., Takano, C., Harper, S., Leeson, G. & Coughlin, J. (2021). PARO as a Biofeedback Medical Device for Mental Health in the COVID-19 Era. Sustainability, 13(20). https://doi.org/10.3390/su132011502
55. Sommer, D., Kasbauer, J., Jakob, D., Schmidt, S. & Wahl, F. (2024). Potential of Assistive Robots in Clinical Nursing: An Observational Study of Nurses’ Transportation Tasks in Rural Clinics of Bavaria, Germany. Nursing Reports, 14(1), 267-286. https://doi.org/10.3390/nursrep14010021
56. Steffen, L., Schulze, M., Eichmann, C., Koch, R., Hermann, A., Mussulin, R., Graaf, F., Wilbrandt, R., Große, M., Roennau, A. & Dillmann, R. (2024). HoLLiE C—A Multifunctional Bimanual Mobile Robot Supporting Versatile Care Applications. En S. Lee, J. An, N. Young, M. Strand & J. Kim (Eds.), Intelligent Autonomous Systems 18 (pp. 127–140). Springer.
57. Triantafyllidis, A., Alexiadis, A., Votis, K. & Tzovaras, D. (2023). Social robot interventions for child healthcare: A systematic review of the literature. Computer Methods and Programs in Biomedicine Update, 3. https://doi.org/10.1016/j.cmpbup.2023.100108
58. Truitt, E. (2015). Medieval Robots: Mechanism, Magic, Nature, and Art. Editorial de la Universidad de Pensilvania.
59. Winfield, A. (2012). Robotics: A Very Short Introduction. Editorial de Oxford.