Artificial Intelligence: : new subject of law? Biolegal implications and reflections on the role of this tool within the formation of legal relationships.

Abstract

Today, we live in an era where the participation of Artificial Intelligence is already part of our daily lives. Its increasing use compels the legal framework to question the role of such technologies within the legal order. In this context, there is doctrinal uncertainty about whether, due to the autonomy with which it seems to operate, AI should be considered a new type of legal subject. This would imply that AI could exercise various types of subjective legal situations, becoming a decisive part of community life. Ultimately, it is concluded that, despite its novel functions, AI cannot be equated with the condition of a person, which is the foundation of the idea of a legal subject, due to its inability to have feelings or generate private judgments of autonomy, as well as its incapacity to assess its own behavior.

Palabras clave: Inteligencia artificial; personalidad jurídica; Naturaleza humana; Tecnología.

Abstract

Today, we live in an era where the participation of Artificial Intelligence is already part of our daily lives. Its increasing use compels the legal framework to question the role of such technologies within the legal order. In this context, there is doctrinal uncertainty about whether, due to the autonomy with which it seems to operate, AI should be considered a new type of legal subject. This would imply that AI could exercise various types of subjective legal situations, becoming a decisive part of community life. Ultimately, it is concluded that, despite its novel functions, AI cannot be equated with the condition of a person, which is the foundation of the idea of a legal subject, due to its inability to have feelings or generate private judgments of autonomy, as well as its incapacity to assess its own behavior.

Keywords: Artificial Intelligence; legal personality; Human Nature; Technology.

Introducción

Una de las cuestiones fundamentales del Derecho es su capacidad para adaptarse a los nuevos escenarios tecnológicos, es decir, en cómo los diversos ordenamientos jurídicos van asimilando los nuevos fenómenos sociales. El Derecho se enfrenta a innumerables cambios en la sociedad y, si es que quiere mantener su eficacia y legitimidad, tiene que adaptarse a nuevos contextos y escenarios.

Sobre el particular, este es el caso de la Inteligencia Artificial (en adelante, IA). Hoy resultaría innecesario hacer mayor introducción sobre cómo la IA se ha venido colando en diversos escenarios, siendo una herramienta de suma utilidad: contextos académicos con el fin de hacer consultas rápidas de información; contextos judiciales con el fin de colaborar en la redacción de resoluciones; contextos creativos con el fin de sofisticar los procesos de creación, etc.

A simple vista, podríamos pensar que nos encontramos ante una mera nueva herramienta, como podría ser cualquier computadora; sin embargo, ante la posibilidad de que su uso excesivo termine desencadenando una serie de situaciones complejas -sobre todo en materia de responsabilidades ante ilícitos-, cabe repensar el rol de la IA dentro del esquema de sujetos de derechos propuesto por nuestro ordenamiento y, de ese modo, evaluar si se le podría imputar situaciones jurídicas subjetivas.

Dicho análisis, nos llevará a hacer una serie de consideraciones respecto de la categoría de “sujeto de derecho”, con el fin de considerar la posibilidad (o no) de replantear dicha categoría ante el avance de las nuevas tecnologías. Sobre el particular, recordemos que, inicialmente, solo se entendía a la persona natural como sujeto de derecho; por tanto, si ya se hizo una reconsideración para admitir a otras variantes (como el concebido, las personas jurídicas y a los entes colectivos no inscritos), ¿cabría admitir a un nuevo ente con aparente autonomía como un nuevo tipo? Al respecto, ese será el principal objetivo del presente trabajo.

El “sujeto de derecho” como categoría jurídica

Sobre el particular, el término “sujeto de derecho” nos lleva a la misma esencia del Derecho como rama del conocimiento. Y es que, partimos de la idea de que el Derecho sustenta su practicidad en un esquema de atribuciones que determinados entes van a ostentar y que van a guiar su marco de actuación. Son estos entes, poseedores de derechos y deberes, a los que vamos a conocer como “sujetos de derecho”. Con el fin de poder expresar esta parte inicial de manera correcta, me permito hacer una explicación más progresiva de lo anterior.

La norma jurídica y el reconocimiento de situaciones jurídicas subjetivas

En buena cuenta, es verdad que el Derecho está destinado a la regulación de conductas para una vida política y social. En ese sentido, el Derecho entra en la vida de la comunidad para resguardar debidamente tanto intereses individuales como colectivos. Para poder llevar a cabo dicha tarea, el Derecho contempla a la norma jurídica como instrumento de regulación de determinados hechos. Las normas jurídicas están compuestas, en su mayoría, por dos elementos esenciales: un supuesto de hecho y una consecuencia jurídica. Si ocurre el hecho A, ocurre la consecuencia B (Rubio, 2020).

Si bien el Derecho cumple su rol al prever una serie de acontecimientos jurídicamente relevantes, puede que el momento más trascendental puede que se dé cuando estos eventos hipotéticos lleguen a materializarse en la realidad. Ello, debido a que, con la concreción de lo señalado en la norma, será posible atribuirles a personas concretas, plenamente individualizadas, las consecuencias de la norma (Zatti, 2005). Al respecto, a estas atribuciones concretas, se les conoce doctrinariamente como “situaciones jurídicas subjetivas”. Es decir, aplicando la norma concreta a un caso concreto, uno puede determinar quién va a ser el beneficiario y quién va a recibir una obligación, en un vínculo conocido como “relación jurídica” (Morales-Hervias, 2008).

Se puede considerar que esta lógica fue base del iusnaturalismo respecto de la idea aristotélica de la justicia, que consistía en darle a cada quien lo suyo; y es que, para que pueda operar dicha lógica, es necesario que se sepa a quién le corresponde algo, con el fin de reconocerle a esta persona -y no a otra- tal potestad (Hervada, 2011). Así, no se le podría adjudicar algo a alguien si es que no se ha configurado el hecho concreto, reconocido en una norma jurídica previa, que justifique el título de ello.

La doctrina civilista italiana ha utilizado el término “situaciones jurídicas subjetivas” para hacer referencia, precisamente, a toda posición (ya sea de ventaja o de desventaja) que ostentan los participantes de una relación jurídica producida por la aplicación de una norma (Morales-Hervias, 2008; Roppo, 2001/2007; Zatti, 2005). De ese modo, la concreción en la realidad de las normas jurídicas proyecta en los participantes cierta capacidad de acción -conocido como derecho subjetivo- o cierta obligación. Dicho paso resulta esencial para el funcionamiento del Derecho, siendo que, para que la convivencia pacífica pueda lograrse, se deben determinar los derechos y los deberes de cada quien, con el fin de garantizar su eficacia en la realidad. Ahora, habiendo revisado lo anterior, es momento de aclarar, quiénes son estos entes que pueden ostentar este tipo de atribuciones dentro de un ordenamiento jurídico.

Los sujetos de derecho: Concepto y evolución

Considerando lo dicho anteriormente, es el concepto “sujeto de derecho” el empleado con el fin de identificar a los diversos entes que son susceptibles de ostentar situaciones jurídicas subjetivas dentro de una relación jurídica, la cual es establecida por la aplicación de normas jurídicas en un caso concreto.

Para ser más precisos, Espinoza (2008) ha definido esta categoría como “un centro de imputación de derechos y deberes adscribibles, siempre y en última instancia, a la vida humana” (p.37). De otro lado, Fernández (2009), jurista a cargo del Libro I del Código Civil vigente, ha mencionado lo siguiente:

En la experiencia jurídica -en la dimensión existencial- este ente o centro de referencia normativo no es otro que el ser humano, antes de nacer o después de haberse producido este evento, ya sea que se le considere individualmente o como organización de personas. (p.3)

Al respecto, de las definiciones revisadas anteriormente, vale la pena recalcar algo bien puntual: que esta categoría está sustentada en la noción de la naturaleza humana, tanto a nivel individual como colectivo. Por tanto, a partir de lo mencionado, la categoría “sujeto de derecho” debe estar ligada al concepto de ser humano. Así, donde no estemos frente a alguna variante del ser humano, no podríamos estar frente a un sujeto de Derecho.

Ahora, lo anterior tampoco quiere decir que un concepto como el de “sujeto de derecho” no pueda enfrentarse al paso del tiempo. Y es que, debemos tener en cuenta que inicialmente solo se consideraba a la persona física (o natural, como se empezó a denominar) con subjetividad jurídica; sin embargo, cuando comenzaron a aparecer las distintas agrupaciones de personas, es cuando se el Derecho vio necesario plantear el reconocimiento de estos colectivos como entes diferentes a sus miembros, lo que conocemos como persona jurídica, tal como se estableció en el Código Civil peruano de 1936 (Espinoza, 2008).

No obstante, durante el periodo de redacción del Código Civil de 1984, Fernández (2009) mencionaba que, dada la mayor concientización sobre el ser humano que se tenía para la época era necesario reevaluar dicha clasificación, con el fin de darle una protección más extensa al individuo. Fue así que el Código vigente contempla dos figuras adicionales: el concebido y la organización de personas no inscrita.

Sobre el particular, se sostiene lo siguiente:

Lo que acontece es que, en cada una de las indicadas cuatro situaciones se hace referencia a diferentes momentos o circunstancias de la vida humana. Así, cuando el artículo primero del Código Civil alude al concebido, lo que se está mentando es vida humana en su etapa intrauterina, mientras que cuando se hace referencia a la persona natural se está mencionando a la vida humana a partir del hecho del nacimiento. Las otras dos restantes categorías presentan a la vida humana a través de organizaciones de personas naturales, como son los casos de personas jurídicas y de las organizaciones de personas no inscritas que, actuando como personas jurídicas, no han cumplido con dicho requisito de carácter eminentemente formal. (Fernández, 2009, p.468)

Por tanto, si bien una persona jurídica no es físicamente un ser humano, se le resguarda en tanto está compuesta por seres humanos, quienes sí tienen un interés protegible por el Derecho y que, en vista de ello, se juntan adquiriendo subjetividad propia y diferente, siendo una situación similar a las agrupaciones sin inscripción. Lo mismo respecto del concebido, si bien aún no tiene una figura independiente físicamente de la madre, se reconoce su valor como ser humano en fase embrionaria, siendo que el Derecho no podría omitir algún tipo de protección hacia esta etapa (Sánchez, 2019). Como se puede apreciar, la vida humana siempre va a estar detrás del concepto de sujeto de Derecho, siendo que ello se puede ver reflejado en cómo se abordó el tema en el Código Civil vigente.

Sobre el particular, aunque no es materia del presente artículo, se debe mencionar que esto último ha sido continuamente cuestionado por muchos ordenamientos, quienes le han comenzado a otorgar subjetividad jurídica a animales o al medio ambiente. Al respecto, en lo que respecta al ordenamiento jurídico peruano, este año hubo incluso una sentencia de un juez especializado quien, con una argumentación cuestionable, le otorgó derechos subjetivos al río Marañón (Cervilla, 2024).

Precisamente, un criterio similar es el que ahora se emplea para buscar reconocerle a la IA la categoría de sujeto de Derecho. En el siguiente acápite nos propondremos adentrarnos en el concepto de IA con el fin de evaluar dicha posibilidad y qué implicancias tendría ello para el ordenamiento jurídico.

La Inteligencia Artificial: ¿un nuevo sujeto de Derecho?

En la presente sección vamos a revisar cómo se ha desarrollado la historia de la IA, así como cuál es su status hoy en día. A partir de ello, se tratará de hacer una serie de reflexiones cuestionando su rol dentro del ordenamiento jurídico, en donde veremos si, a partir de sus características, sería posible reconocerle subjetividad jurídica.

Origen de la IA y su desarrollo

La historia de la humanidad siempre estuvo acompañada del deseo de poder “crear vida”, no solo a través de la reproducción natural, sino a través de métodos artificiales. Ello tiene como antecedentes la Grecia clásica, en donde ya se añoraba la idea de que los seres humanos podían crear nuevos entes; sin embargo, es a partir de las consecuencias de la revolución industrial y la entrada del siglo XIX que dicha añoranza de la antigüedad tomó un rumbo más concreto: el de la tecnología y, para ser más precisos, el de la computación (Amunátegui, 2020).

Sobre lo mencionado, un primer antecedente se dio en los años cuarenta, a partir de computadoras que comenzaron a realizar cálculos matemáticos de manera automática. Al respecto, por esos años se comenzó a considerar cierta “inteligencia” de parte de este computador y, cabía la duda, sobre si ello podía asemejarse en algo a la inteligencia humana (Amunátegui, 2020).

Sin embargo, el punto que formalmente inició con el desarrollo de la IA se dio en 1956, cuando un grupo de investigadores se propuso un objetivo concreto: Hacer que las máquinas pudieran pensar, es decir, que pudieran razonar y cumplir funciones que aparentemente solo los humanos podríamos hacer, a esta idea se le dio el nombre de “inteligencia artificial” (Amunátegui, 2020).

A grandes rasgos, se buscaba que estas nuevas tecnologías pudieran, en primer lugar, interactuar con el exterior a partir de información programada previamente; y, en segundo lugar, mejorar constantemente su calidad de respuestas a partir de las interacciones realizadas con los seres humanos. Es decir, se busca que la máquina aprenda y siga aprendiendo a partir de su experiencia con los demás (Gálvez, 2021). Sobre el particular, los primeros antecedentes de ello fueron los primeros intentos de chatbox, entendiendo esto como la posibilidad de entablar una conversación escrita con una máquina capaz de responder dudas concretas de personas; sin embargo, el desarrollo de la IA tuvo un freno hacia mediados del siglo XX, debido a los pocos resultados obtenidos hasta ese punto.

El uso del Internet fue un elemento clave para un nuevo desarrollo de la IA, sobre todo con su amplio alcance desde los años noventa. Fue así que, desde el 2012, comenzó un creciente y desmedido desarrollo de este tipo de tecnologías, ahora a través de bases de datos de imágenes (como la desarrollada en ImageNet, y que luego fue replicada por Google), caracterizadas por ser capaces de reconocer diversos entes físicos del mundo con imágenes preprogramadas (Amunátegui, 2020).

Posteriormente, ello ha evolucionado a nuevos tipos de IA, siendo que ahora se cuenta con dispositivos más avanzados, como es el caso de las asistentes personales (por ejemplo, las aplicaciones móviles “Siri” o “Alexa”), las cuales están diseñadas para seguir órdenes y plantear respuestas inmediatas para problemas concretos de la vida cotidiana. Incluso, su uso ha escalado hasta el punto de que, a través de la IA, se pueden lograr un análisis más concreto sobre cuestiones epidemiólogas, algo que incluso fue muy útil en algunos países durante la pandemia del COVID-19 (Gálvez, 2021).

Hoy podemos encontrar el uso de IA en diversas formas, cada vez más accesibles para el usuario promedio. Por ejemplo, hay aplicativos de IA que pueden entablar una conversación con nosotros, no sólo resolviendo dudas (como haría cualquier buscador en la web), sino proponiendo nuevas soluciones y alternativas, simulando una conversación. Incluso, hoy muchas compañías han dejado de contratar teleoperadores, con el fin de implementar una IA que pueda absolver dudas de sus usuarios de manera automática (BBVA, 2022). Por otro lado, la tecnología ya se está abriendo paso para la creación de automóviles que se manejen solos, permitiendo que los viajes puedan ser dirigidos por una IA que detecte la debida orientación de los vehículos (Infobae, 2021); incluso, se ha comenzado a delegar a la IA la elaboración de resoluciones judiciales y administrativas, con el fin de reducir la carga laboral de algunas entidades (LP Pasión por el Derecho, 2023).

En síntesis, la IA ha llegado a nuestra época en un mundo que busca soluciones instantáneas para problemas concretos. El Internet, en su sentido más convencional, pareciera cada vez más obsoleto, siendo que ya se ha detectado una reducción del uso de los buscadores en línea tradicionales debido a que la IA resulta ser más beneficiosa, inmediata y eficiente que éstos (Limón, 2024).

Posibles problemas en la implementación de estas tecnologías

Ahora, a pesar de lo mencionado previamente, el uso de la IA también puede significar una serie de problemas a nivel jurídico, sobre todo en torno a la imputación de responsabilidades en caso de posibles ilícitos. Sobre el particular, es precisamente dicha discusión la que ha conllevado a al debate doctrinario sobre si sería idóneo considerar a la IA como sujeto de derecho, con el fin de imputarle deberes y obligaciones, dada su capacidad de creación.

En ese sentido, ya se ha cuestionado, por ejemplo, el uso indebido que se le da a herramientas como el ChatGPT, servicio de chatboxque emplea IA. Al respecto, este servicio -que, en principio, representa una ayuda inmediata para la búsqueda de soluciones a preguntas puntuales- ha terminado por convertirse en un problema por su alto empleo en faltas contra la ética académica, siendo usada por alumnos con el fin de aplicarla indebidamente en tareas y exámenes. Pero no solo ello, también ha despertado la preocupación de la comunidad internacional por la injerencia del ChatGPT dentro de posibles filtraciones de bases de datos, así como su influencia para el desarrollo de procesos electorales. Al respecto, esto último es algo que el mismo Sam Altman, director de la empresa OpenIA, reconoció frente al Congreso estadounidense, exhortándoles a establecer una política regulatoria frente a la IA (BBC News, 2023).

Cabe resaltar que este tipo de problemas no son propios del ChatGPT, sino de cualquier tipo de IA. Sobre el particular, cada vez es más frecuente el término “ética digital”, el cual está dirigido a la promoción no solo a un debido cuidado al momento del diseño de una herramienta que use la IA, sino también a un debido uso y disfrute de estas nuevas tecnologías (Nakama-Hokamura & Rojas-Valdez, 2023).

En relación a lo anterior, es de destacar la promulgación de la reciente Ley Nº31814, la denominada “Ley que promueve el uso de la Inteligencia Artificial en favor del desarrollo económico y social del país”. Si bien el texto de la norma es mayormente declarativo -y sin mayor incidencia concreta en la realidad-, reconoce la necesidad de contar con una Política Nacional de Transformación Digital y la Estrategia Nacional de Inteligencia Artificial, la que deberá elaborar una serie de lineamientos éticos para un correcto uso, sin que ello contemple necesariamente un marco regulatorio. No obstante, a pesar de su casi inutilidad práctica, se debe reconocer la referida Ley como, al menos, un esbozo de intento de legislación.

Como se mencionó, este no pretende ser un texto analítico sobre la regulación o no del uso de las IA, siendo que ello ameritaría un estudio más detallado sobre el particular. El objeto del presente trabajo es revisar su posible inclusión como sujeto de Derecho, lo que pasaremos a hacer en el siguiente acápite.

La idoneidad de la inclusión de la IA como sujeto de derecho

Como ya mencionamos previamente, el presente trabajo busca centrarse en la discusión sobre si, dada la consolidación actual de la IA dentro de la vida cotidiana, se le debería brindar subjetividad jurídica, con el fin de hacerlo sujeto de derecho y, por ende, responsable de cualquier tipo de ilícito cometido empleando dicha tecnología.

En este punto, me parece prudente realizar una primera advertencia al lector. Y es que, para el desarrollo de este punto, no vamos a considerar estas posibles “amenazas” o “malos usos” de la IA para descalificarla como sujeto de derecho. Y partimos de una cuestión bien concreta: el uso errado o antiético de una institución, no debería a priori desmerecerla jurídicamente.

Un ejemplo concreto de lo anterior son las personas jurídicas. Si bien esta categoría de sujeto de derecho se consagró como una manera mediante la cual los seres humanos podrían interactuar con otros, la realidad es que, muchas veces, esta figura es usada de manera fraudulenta, abusando de su autonomía patrimonial para que los socios puedan cometer ilícitos, a través de una entidad que sirva de “cubierta” de legalidad (Ormeño, 2006). No podríamos decir que, como la figura de la persona jurídica puede ser mal empleada, entonces se le debería privar de subjetividad jurídica como ente autónomo.

Sobre el particular, la problemática en torno a la IA se asemeja en demasía a otra controversia que se tuvo dentro del marco de la filosofía del derecho, como fue el tema de los androides, es decir, de las figuras autómatas de aspecto humano. Al respecto, doctrinariamente es de destacar el análisis hecho en su momento por Alexy y García (2007), quienes resaltaron algunos puntos considerables para analizar si se le podría atribuir a estos entes la condición de personas. Consideramos que, usando los mismos puntos, podríamos hacer el mismo examen, pero centrándonos en la IA.

Al respecto, dicho análisis se sustenta en analizar tres puntos concretos: 1) Analizar si el ente cuestionado es inteligente; 2) Examinar si dicho ente tiene sentimientos; y, finalmente, 3) Revisar si el ente en cuestión tiene conciencia. En ese sentido, para que algo pueda ser considerado jurídicamente como persona se entiende que debería reunir las tres características (Alexy & García, 2007).

¿La IA es inteligente?

Sobre el primer punto, que la IA pueda ser considerada como inteligente es un punto cuestionable. Si bien se podría decir que la IA no ha “nacido” con conocimientos inherentes, sino que estos han sido programados por un ser humano, también es cierto que este tipo de tecnologías, como se ha mencionado, van acrecentando sus bases de datos conforme interactúan con otras personas, ampliando sus conocimientos a grandes escalas y desarrollándolos con cierta autonomía.

Al respecto, Alexy y García (2007) sostienen que un androide, eventualmente sí podría tener inteligencia, a pesar de ser un artefacto, considerando que este puede “aprender, comprender y estar preparado para enfrentar nuevas situaciones” (p.94). Esto es, que sea capaz de resolver problemas concretos con soluciones lógicas.

Considerando lo anterior, y siendo objetivos, podríamos decir que la IA sí resulta ser inteligente. Y es que, una característica de esta tecnología es que no solo es capaz de responder preguntas, sino que se adapta y aprende a partir de las diversas relaciones que mantienen con los usuarios (Amunátegui, 2020; Gálvez, 2021). Esto conlleva a que la IA no solo nos pueda contestar todo tipo de consultas -por más rebuscadas que sean- sino que también pueda adaptar sus respuestas dependiendo del tipo de interlocutor que tenga. Por tanto, considero que no habría ningún problema en admitir que la IA sí resulta ser inteligente; que su inteligencia no sea propia de procesos naturales de aprendizaje, es cuestión aparte.

¿La IA tiene sentimientos?

Puede que en este punto se observe la primera gran complicación para poder reconocer la subjetividad jurídica de la IA. La cuestión respecto de los sentimientos, usualmente, se ha llevado por un vínculo entre los dolores y placeres, esto es, revisar si un ente es susceptible de sentir sensaciones positivas o negativas.

Sobre el particular, Alexy y García (2007) afirman que un androide, eventualmente podría tener sentimientos, siempre y cuando este los pueda manifestar a partir de afirmaciones de afecto o disgusto (por ejemplo, “estoy feliz”, “te aprecio mucho”, “estoy furiosa”, etc.); sin embargo, pareciera que esto no es el caso de la IA. Al respecto, la doctrina especializada ya ha mencionado que ninguno de los mecanismos ideados con la IA, al menos hasta la fecha, ha logrado cierta humanidad respecto de los sentimientos (Amunátegui, 2020). En ese sentido, se reconoce cierta incapacidad para emitir juicios valorativos sobre el estado de ánimo de la IA o si se siente particularmente feliz de realizar cierta actividad.

El factor sensitivo es un factor común en el ser humano, siendo parte de nuestra propia naturaleza, independientemente que, por cuestiones accidentales, algunos individuos no sean susceptibles de exteriorizar sus emociones. Por ejemplo, pensemos en el caso de una persona en coma. Nadie podría negar su humanidad, sigue siendo tan persona como cualquier, más allá del estado de discapacidad en el que se encuentra, el mismo que le estaría privando de manifestar cómo se siente (Lobato, 2000). 

De cualquier forma, pareciera que la IA, por más que sea efectiva para dar respuestas precisas, no es susceptible de sentir de manera autónoma, tal y como lo haría cualquier otra persona. Sobre el particular, hay que mencionar que, a diferencia de lo que ocurre con la inteligencia, los sentimientos no se aprenden, sino que se viven a partir de la mera existencia. Por tanto, al ser inherentes, no son susceptibles de caber dentro de un programador tecnológico.

En síntesis, una cosa sería solicitarle a una IA que pueda definir la felicidad, para lo que eventualmente usará las definiciones planteadas en un diccionario; pero otra cosa sería consultarle a la IA si es realmente feliz. Eventualmente, lo que sí podría diseñarse son imitaciones de sentimientos. Por ejemplo, enseñarle a la IA que, si alguien le dice algo amable, esta debería agradecer por el cumplido con cierta “apariencia” de alegría; sin embargo, ello carecerá de autenticidad.

¿La IA tiene conciencia?

Finalmente, más allá de que, por lo último, pareciera que nuestro análisis nos va a llevar a un escenario negativo para las IA como sujetos de derecho, es oportuno -de todas formas- mencionar algo respecto de la posibilidad de que estas herramientas puedan tener autoconciencia.

Al respecto, Alexy y García (2007) sostienen que esta dimensión, la tercera etapa de su examen para determinar si un ente puede ser considerado como persona, se puede revisar a través de tres tipos de reflexividad: la cognitiva, la volitiva y la normativa.

Respecto de la primera, la reflexividad cognitiva consiste básicamente en la idea de conocerse a sí mismo, es decir, tenerse como objeto de estudio, de ser capaz de comprender nuestro lugar en el mundo. Según los autores indicados previamente, un androide eventualmente podría tener este tipo de reflexividad, aunque ello lo llevaría a reconocer para sí mismo su status como máquina, es decir, siendo capaz de reconocerse como tal.

Para efectos del presente artículo, y para tratar de ilustrar lo anterior, se planteó al ChatGPT la siguiente pregunta: “¿Te conoces a ti mismo?”, siendo que se recibió la siguiente respuesta de parte de la IA:“En cierto modo, sí. Sé que soy un modelo de lenguaje diseñado para procesar y generar texto. No tengo conciencia ni emociones, pero puedo ofrecerte información y asistencia en muchas áreas. ¿Te gustaría saber algo más específico?” (OpenAI, 2024).

En ese sentido, se puede decir que la IA se contempla como herramienta, que no tiene emociones ni tiene conciencia; sin embargo, sí sabe - en el caso del ChatGPT- que es una herramienta de lenguaje diseñada por un ente externo. Así, podríamos decir que tiene reflexividad cognitiva, siendo que puede identificar su lugar en el mundo y su status.

En segundo lugar, se propone una revisión de la reflexividad volitiva, es decir, que el ente tenga la capacidad de regir su comportamiento mediante actos de voluntad. Sobre el particular, puede que este sea uno de los puntos más interesantes. Y es que podríamos tener la idea de que la IA es un ente que actúa “libremente” por el mundo exterior - en el sentido de que su aparición no está restringida físicamente, siendo que hoy en día cualquier persona pueda acceder a este tipo de tecnología-; sin embargo, se debe tener presente que el actuar de la IA no es autónomo, es decir, no se basa en una cuestión de libre albedrío (Amunátegui, 2020).

Sobre el particular, previamente mencionamos que la IA no funciona sino a partir de conceptos preprogramados y de las diversas órdenes que un comando externo le pueda hacer; en ese sentido, se entiende que no hay un pleno acto de voluntad para, por ejemplo, establecer un acto jurídico. Del mismo modo, la capacidad de aprendizaje de este tipo de tecnologías tampoco se da de manera autónoma, sino que siempre va a depender de la interacción con una persona concreta, la que moldeará la actuación de la IA de manera progresiva. Por tanto, es evidente que la IA carece de este tipo de reflexividad.

Finalmente, respecto de la reflexividad normativa, esta consiste, básicamente, en la idea de autonormar el propio comportamiento a través de pautas de conducta realizadas a partir de un ejercicio reflexivo, basado en un juicio personal sobre nuestro modo de ser (Alexy & García, 2007).

Como se puede intuir, no podríamos decir que la IA tiene esta capacidad reflexiva. Pareciera, de lo mencionado en los párrafos precedentes que, por el contrario, es incapaz de emitir un correcto juicio de valor sobre su actuar. Por supuesto que hay individuos que, pareciera, tampoco cuentan con esta capacidad del todo desarrollada; sin embargo, hay que diferenciar, una cosa es no tener la capacidad de autojuzgarse, y otra es no poder hacerlo, a lo mejor por una deficiencia en la formación personal de cada uno.

A partir de lo mencionado previamente, la IA no podría emitir juicios de valor sobre sí, calificando sus actuaciones como positivas o negativas. Al no poder emitir una autoevaluación personal, tampoco podría ajustar su conducta a partir de ello. En ese sentido, se advierte que, la IA por sus particularidades debería ser calificada como un mero objeto de derecho inmaterial, incapaz de una reflexividad al menos cercana a la realizada por las personas (Espinoza, 2008).

Por tanto, al no contener todas las condiciones que la podrían, al menos parcialmente, asemejar a una persona, es que no se debería admitir la posibilidad de reconocer a la IA como un nuevo sujeto de derecho, en tanto esa categoría, según lo visto en su momento, se erige bajo la figura del ser humano como ente inteligente, sensible y reflexivo. Sin embargo, en aras de darle relevancia jurídica a esta herramienta, sí sería idóneo un reconocimiento puntual, aunque reconociendo su status como objeto de derecho, mas no como sujeto.

Conclusiones

La IA representa un gran avance a nivel tecnológico, la cual nos puede facilitar la vida en muchos sentidos; sin embargo, se debe destacar que también puede acarrear muchos peligros si es que se le da un uso indebido. Si bien es comprensible una necesidad de imputar a alguien la responsabilidad por estos malos usos, consideramos que la solución no radicaría en reconocerle a la IA subjetividad jurídica como sujeto de derecho.

Como ya hemos visto, el concepto de sujeto de derecho se centra en el ser humano en tanto persona, desde una faceta individual o colectiva. La IA, no solo no tiene la capacidad de sentir de forma auténtica, sino que tampoco tiene ni reflexividad volitiva ni normativa; en ese sentido, al no ser comparable con el ser humano en cuestiones tan básicas, es que deberíamos descartarla como sujeto de derecho.

Ello no debería obstar para que sí se le reconozca a la IA una regulación dentro del derecho, siendo que sus actuaciones podrían ser consideradas como hechos jurídicamente relevantes, por lo que sí es necesario una regulación concreta para delimitar un uso debido de esta tecnología, aunque considerándola como objeto de derecho.

Referencias

Alexy, R. & García, A. (2007). Star Trek y los derechos humanos. Tirant Lo Blanch.

Amunátegui, C. F. (2020). Arcana Technicae. El derecho y la inteligencia artificial. Tirant Lo Blanch.

BBC News (16 de mayo del 2023). ChatGPT | "Mi peor temor es que causemos un daño significativo al mundo": el testimonio de Sam Altman, creador del chatbot de IA, ante el Congreso de EE.UU.

BBVA (2022). La inteligencia artificial detrás de Blue, el asistente virtual de BBVA. https://goo.su/yDTkam

Cervilla, J. (2024). Sentencia emblemática: el río Marañón es declarado titular de derecho.

Espinoza, J. (2008). Derecho de las personas. Editorial Rhodas.

Fernández, C. (2009). Derecho de las personas. Editorial Grijley.

Gálvez, P. K. (2021). Introducción a la inteligencia artificial y la ética: Vehículos autónomos como caso de estudio. Revista Peruana de Derecho de Empresa, (74), 41-53. https://goo.su/a1UnOx

Hervada, J. (2011). Introducción Crítica al Derecho Natural. (11 ed.). Ediciones Universidad de Navarra.

Infobae (14 de agosto del 2021). Inteligencia Artificial: cómo se aplica a la tecnología de los automóviles. https://goo.su/pCJma

Limón, R. (18 de mayo del 2024). La nueva inteligencia artificial cava la tumba de los buscadores y asistentes tradicionales. Diario El País. https://goo.su/x2PRDN

Lobato, A. (2000). La persona en Santo Tomás de Aquino. https://goo.su/sUYF1Wa

LP Pasión por el Derecho (28 de marzo del 2023). URGENTE: Se dicta la primera sentencia en Perú con asistencia de inteligencia artificial (OpenAI-ChatGPT) [Exp. 00052-2022-18-3002-JP-FC-01]. https://goo.su/fPvgDvY

Morales-Hervias, R. (2008). Situaciones jurídicas subjetivas. Advocatus, (019), 323-360. https://doi.org/10.26439/advocatus2008.n019.478

Nakama-Hokamura, G. K. & Rojas-Valdez, K. (2023). Naturaleza y persona humana: bases críticas de la pretensión transhumanista. Apuntes De Bioética, 6(2), 5-29. https://doi.org/10.35383/apuntes.v6i2.981

OpenAI. (2024). ChatGPT (modelo GPT-4) [Modelo de lenguaje]. https://goo.su/Vmxl5k1

Ormeño, M. (2006). El uso fraudulento de la persona jurídica. En Universidad de Lima (Ed.), Libro homenaje Facultad de Derecho. Fondo Editorial Universidad de Lima. 261-294.

Roppo, V. (2007). Istituzioni di diritto privato (L. León, Trad.). Derecho de las Relaciones Obligatorias. Lecturas seleccionadas y traducidas para uso de los estudiantes universitarios. Jurista Editores (Trabajo original publicado en el 2001).

Rubio, M. (2020). El sistema jurídico. Introducción al Derecho (12a ed.). Fondo Editorial de la Pontificia Universidad Católica del Perú.

Sánchez, R. J. (2019). Estatuto jurídico del embrión humano. Apuntes De Bioética, 2(2), 69-79. https://doi.org/10.35383/apuntes.v2i2.288

Zatti, P. (2005). “Las situaciones jurídicas”. En Revista jurídica del Perú, LV(64), 357-389.

References

1. Alexy, R. & García, A. (2007). Star Trek y los derechos humanos. Tirant Lo Blanch.
2. Amunátegui, C. F. (2020). Arcana Technicae. El derecho y la inteligencia artificial. Tirant Lo Blanch.
3. BBC News (16 de mayo del 2023). ChatGPT | "Mi peor temor es que causemos un daño significativo al mundo": el testimonio de Sam Altman, creador del chatbot de IA, ante el Congreso de EE.UU. https://goo.su/oneNX
4. BBVA (2022). La inteligencia artificial detrás de Blue, el asistente virtual de BBVA. https://goo.su/yDTkam
5. Cervilla, J. (2024). Sentencia emblemática: el río Marañón es declarado titular de derecho. https://goo.su/QjwbIm
6. Espinoza, J. (2008). Derecho de las personas. Editorial Rhodas.
7. Fernández, C. (2009). Derecho de las personas. Editorial Grijley.
8. Gálvez, P. K. (2021). Introducción a la inteligencia artificial y la ética: Vehículos autónomos como caso de estudio. Revista Peruana de Derecho de Empresa, (74), 41-53. https://goo.su/a1UnOx
9. Hervada, J. (2011). Introducción Crítica al Derecho Natural. (11 ed.). Ediciones Universidad de Navarra.
10. Infobae (14 de agosto del 2021). Inteligencia Artificial: cómo se aplica a la tecnología de los automóviles. https://goo.su/pCJma
11. Limón, R. (18 de mayo del 2024). La nueva inteligencia artificial cava la tumba de los buscadores y asistentes tradicionales. Diario El País. https://goo.su/x2PRDN
12. Lobato, A. (2000). La persona en Santo Tomás de Aquino. https://goo.su/sUYF1Wa
13. LP Pasión por el Derecho (28 de marzo del 2023). URGENTE: Se dicta la primera sentencia en Perú con asistencia de inteligencia artificial (OpenAI-ChatGPT) [Exp. 00052-2022-18-3002-JP-FC-01]. https://goo.su/fPvgDvY
14. Morales-Hervias, R. (2008). Situaciones jurídicas subjetivas. Advocatus, (019), 323-360. https://doi.org/10.26439/advocatus2008.n019.478
15. Nakama-Hokamura, G. K. & Rojas-Valdez, K. (2023). Naturaleza y persona humana: bases críticas de la pretensión transhumanista. Apuntes De Bioética, 6(2), 5-29. https://doi.org/10.35383/apuntes.v6i2.981
16. OpenAI. (2024). ChatGPT (modelo GPT-4) [Modelo de lenguaje]. https://goo.su/Vmxl5k1
17. Ormeño, M. (2006). El uso fraudulento de la persona jurídica. En Universidad de Lima (Ed.), Libro homenaje Facultad de Derecho. Fondo Editorial Universidad de Lima. 261-294.
18. Roppo, V. (2007). Istituzioni di diritto privato (L. León, Trad.). Derecho de las Relaciones Obligatorias. Lecturas seleccionadas y traducidas para uso de los estudiantes universitarios. Jurista Editores (Trabajo original publicado en el 2001).
19. Rubio, M. (2020). El sistema jurídico. Introducción al Derecho (12a ed.). Fondo Editorial de la Pontificia Universidad Católica del Perú.
20. Sánchez, R. J. (2019). Estatuto jurídico del embrión humano. Apuntes De Bioética, 2(2), 69-79. https://doi.org/10.35383/apuntes.v2i2.288
21. Zatti, P. (2005). “Las situaciones jurídicas”. En Revista jurídica del Perú, LV(64), 357-389.