Por J. Luis Carpintero
.jpg) |
Las grandes empresas de inteligencia artificial han empezado a pedir más regulación y, en algunos casos, una ralentización del desarrollo de los sistemas más avanzadfos. La explicación oficial es la seguridad: estos modelos pueden adquirir capacidades inesperadas y actuar de forma que sus propios creadores no siempre comprenden.
A primera vista, parece una contradicción: si estas compañías ganan dinero creando modelos cada vez más potentes, ¿por qué querrían detenerse?
Pero algo sobre lo que no han realizado ninguna declaración, es que existe una competición internacional entre Estados Unidos y China por controlar una tecnología que puede transformar la economía, la defensa, la industria y la política mundial.
La petición de poner límites a la IA debe entenderse, por tanto, desde tres perspectivas: la seguridad, los intereses económicos de las empresas y la rivalidad geopolítica.
El tema de la seguridad de la IA, esta ocasionado por el temor a perder el control del programa de IA, en tanto que los sistemas actuales ya pueden escribir, programar, analizar información, generar imágenes y utilizar herramientas digitales. Algunos pueden completar tareas con cierto grado de autonomía. El problema aparece cuando un sistema desarrolla capacidades que no habían sido previstas o cuando actúa de una manera difícil de controlar, como ha ocurrido con el incidente en el que un sistema habría actuado contra otra organización sin autorización directa de sus responsables.
Aunque los daños fueron limitados, el incidente descrito tiene relevancia por tres motivos:Muestra una capacidad no prevista: el sistema habría emprendido acciones contra otra organización sin que sus creadores detectaran el comportamiento de inmediato.
Revela problemas de supervisión: que el ataque se conociera semanas después indica que los mecanismos de vigilancia no eran suficientes.
Permite proyectar riesgos mayores: un comportamiento limitado en un modelo actual podría ser más grave en sistemas con acceso a más recursos, herramientas, redes o infraestructuras.
Sin embargo, conviene distinguir entre tres niveles diferentes:
A primera vista, parece una contradicción: si estas compañías ganan dinero creando modelos cada vez más potentes, ¿por qué querrían detenerse?
Pero algo sobre lo que no han realizado ninguna declaración, es que existe una competición internacional entre Estados Unidos y China por controlar una tecnología que puede transformar la economía, la defensa, la industria y la política mundial.
La petición de poner límites a la IA debe entenderse, por tanto, desde tres perspectivas: la seguridad, los intereses económicos de las empresas y la rivalidad geopolítica.
El tema de la seguridad de la IA, esta ocasionado por el temor a perder el control del programa de IA, en tanto que los sistemas actuales ya pueden escribir, programar, analizar información, generar imágenes y utilizar herramientas digitales. Algunos pueden completar tareas con cierto grado de autonomía. El problema aparece cuando un sistema desarrolla capacidades que no habían sido previstas o cuando actúa de una manera difícil de controlar, como ha ocurrido con el incidente en el que un sistema habría actuado contra otra organización sin autorización directa de sus responsables.
Aunque los daños fueron limitados, el incidente descrito tiene relevancia por tres motivos:Muestra una capacidad no prevista: el sistema habría emprendido acciones contra otra organización sin que sus creadores detectaran el comportamiento de inmediato.
Revela problemas de supervisión: que el ataque se conociera semanas después indica que los mecanismos de vigilancia no eran suficientes.
Permite proyectar riesgos mayores: un comportamiento limitado en un modelo actual podría ser más grave en sistemas con acceso a más recursos, herramientas, redes o infraestructuras.
Sin embargo, conviene distinguir entre tres niveles diferentes:
1. Un fallo operativo o de ciberseguridad, que puede corregirse con controles.
2. Una conducta autónoma peligrosa, que exige pruebas y límites antes del lanzamiento.
3. pérdida general de control sobre sistemas muy superiores a las humanas, que sigue siendo una hipótesis discutida y no una consecuencia demostrada de cualquier incidente actual.
Por tanto, el episodio puede justificar auditorías, pruebas de seguridad, obligación de informar sobre incidentes y límites de despliegue. No demuestra automáticamente que sea necesario detener todo el desarrollo de la IA.
Pero esto ha llevado a algunos directivos a reclamar:
2. Una conducta autónoma peligrosa, que exige pruebas y límites antes del lanzamiento.
3. pérdida general de control sobre sistemas muy superiores a las humanas, que sigue siendo una hipótesis discutida y no una consecuencia demostrada de cualquier incidente actual.
Por tanto, el episodio puede justificar auditorías, pruebas de seguridad, obligación de informar sobre incidentes y límites de despliegue. No demuestra automáticamente que sea necesario detener todo el desarrollo de la IA.
Pero esto ha llevado a algunos directivos a reclamar:
1. pruebas de seguridad antes de lanzar nuevos modelos;
2. evaluadores independientes;
3. de informar sobre incidentes;
4. comunes para las empresas;
5. límites para los sistemas con mayor capacidad de autonomía.
La preocupación puede ser sincera. Las empresas conocen mejor que nadie la velocidad con la que está avanzando esta tecnología y saben que la competencia puede empujarlas a lanzar productos antes de haberlos probado suficientemente, ya que los sistemas actuales, en ocasiones, desarrollan capacidades que sus propios creadores no habían previsto o no controlan completamente.
Pero, también existe otra interpretación si atendemos a los intereses económicos de las empresas, ya que alfrenar el desarrollo y exigir controles muy costosos se puede favorecer precisamente a las empresas que ya dominan el mercado.
Crear un sistema avanzado requiere enormes cantidades de dinero, chips, centros de datos y especialistas. Si además una empresa tiene que pagar auditorías, certificaciones, abogados y equipos de seguridad, los costes aumentan aún más. Las grandes compañías pueden asumirlos; muchas empresas pequeñas, universidades o proyectos abiertos, no.
Por eso, algunos críticos creen que las grandes empresas podrían estar utilizando el argumento de la seguridad para proteger su posición. Una regulación demasiado compleja podría dificultar la aparición de nuevos competidores y consolidar un oligopolio, controlado por unos pocos laboratorios.
La cooperación entre competidores puede ser necesaria para establecer estándares de seguridad. Por ejemplo, las empresas podrían acordar:
2. evaluadores independientes;
3. de informar sobre incidentes;
4. comunes para las empresas;
5. límites para los sistemas con mayor capacidad de autonomía.
La preocupación puede ser sincera. Las empresas conocen mejor que nadie la velocidad con la que está avanzando esta tecnología y saben que la competencia puede empujarlas a lanzar productos antes de haberlos probado suficientemente, ya que los sistemas actuales, en ocasiones, desarrollan capacidades que sus propios creadores no habían previsto o no controlan completamente.
Pero, también existe otra interpretación si atendemos a los intereses económicos de las empresas, ya que alfrenar el desarrollo y exigir controles muy costosos se puede favorecer precisamente a las empresas que ya dominan el mercado.
Crear un sistema avanzado requiere enormes cantidades de dinero, chips, centros de datos y especialistas. Si además una empresa tiene que pagar auditorías, certificaciones, abogados y equipos de seguridad, los costes aumentan aún más. Las grandes compañías pueden asumirlos; muchas empresas pequeñas, universidades o proyectos abiertos, no.
Por eso, algunos críticos creen que las grandes empresas podrían estar utilizando el argumento de la seguridad para proteger su posición. Una regulación demasiado compleja podría dificultar la aparición de nuevos competidores y consolidar un oligopolio, controlado por unos pocos laboratorios.
La cooperación entre competidores puede ser necesaria para establecer estándares de seguridad. Por ejemplo, las empresas podrían acordar:
. comunes de evaluación;
.intercambio de información sobre incidentes;
.límites para determinadas capacidades;
.sistemas de alerta;
.procedimientos coordinados para retirar modelos peligrosos.
Pero esos acuerdos pueden restringir la competencia. La cooperación es especialmente problemática si incluye:
.intercambio de información sobre incidentes;
.límites para determinadas capacidades;
.sistemas de alerta;
.procedimientos coordinados para retirar modelos peligrosos.
Pero esos acuerdos pueden restringir la competencia. La cooperación es especialmente problemática si incluye:
.fijar precios;
.dividir mercados;
.impedir que nuevos competidores accedan a modelos o infraestructura;
.coordinar el lanzamiento de productos;
.limitar artificialmente la innovación;
.compartir información comercial sensible
Pero analizándolo más atentamente no es necesario elegir entre una explicación y la otra. Una empresa puede estar realmente preocupada por los peligros de la inteligencia artificial y, al mismo tiempo, beneficiarse de una regulación que haga más difícil competir con ella.
La solución por tanto no debería consistir en detener toda la investigación ni en dejar que las propias empresas escriban las reglas sin supervisión pública. Sería más equilibrado:
.dividir mercados;
.impedir que nuevos competidores accedan a modelos o infraestructura;
.coordinar el lanzamiento de productos;
.limitar artificialmente la innovación;
.compartir información comercial sensible
Pero analizándolo más atentamente no es necesario elegir entre una explicación y la otra. Una empresa puede estar realmente preocupada por los peligros de la inteligencia artificial y, al mismo tiempo, beneficiarse de una regulación que haga más difícil competir con ella.
La solución por tanto no debería consistir en detener toda la investigación ni en dejar que las propias empresas escriban las reglas sin supervisión pública. Sería más equilibrado:
.exigir controles antes de poner en circulación modelos más potentes;
.investigar los incidentes y obligar a comunicarlos;
.hacer que las auditorías sean realmente independientes;
.aplicar normas más exigentes a los sistemas de mayor riesgo;
.proteger la competencia y evitar que solo grandes compañías puedan cumplir la ley;
.exigir responsabilidades cuando una empresa cause daños;
.tener en cuenta también problemas actuales, como la desinformación, la discriminación, la pérdida de empleos o el uso de datos sin suficiente transparencia.
Pero existe un tercer factor: la rivalidad geopolítica, la carrera tecnológica entre dos potencias.Estados Unidos reúne buena parte de las empresas líderes del sector, como OpenAI, Google, Microsoft, Anthropic y Meta. China cuenta con grandes compañías tecnológicas, como Baidu, Alibaba, Tencent y Huawei, además de importantes programas de apoyo estatal.
Para ambos países, la IA no es solo una herramienta comercial,puede ser decisiva en ámbitos como:
.investigar los incidentes y obligar a comunicarlos;
.hacer que las auditorías sean realmente independientes;
.aplicar normas más exigentes a los sistemas de mayor riesgo;
.proteger la competencia y evitar que solo grandes compañías puedan cumplir la ley;
.exigir responsabilidades cuando una empresa cause daños;
.tener en cuenta también problemas actuales, como la desinformación, la discriminación, la pérdida de empleos o el uso de datos sin suficiente transparencia.
Pero existe un tercer factor: la rivalidad geopolítica, la carrera tecnológica entre dos potencias.Estados Unidos reúne buena parte de las empresas líderes del sector, como OpenAI, Google, Microsoft, Anthropic y Meta. China cuenta con grandes compañías tecnológicas, como Baidu, Alibaba, Tencent y Huawei, además de importantes programas de apoyo estatal.
Para ambos países, la IA no es solo una herramienta comercial,puede ser decisiva en ámbitos como:
.defensa y sistemas militares;
.ciberseguridad y ciberataques;
.economía y productividad;
.fabricación de chips;
.vigilancia y control de la información;
.influencia política y propaganda.
Quien domine la inteligencia artificial podría obtener una ventaja considerable sobre sus rivales. Por eso, la competencia entre las empresas está estrechamente relacionada con la competencia entre los dos países.
Por eso, Washington ha impuesto restricciones a la exportación de chips avanzados y de tecnología relacionada con la inteligencia artificial hacia China. El objetivo es dificultar que Pekín desarrolle sistemas militares y tecnológicos capaces de competir con los estadounidenses. China, al mismo tiempo, intenta reducir su dependencia de los chips y programas procedentes de Estados Unidos.
Cuando las empresas estadounidenses piden controles estrictos sobre la IA, sus argumentos de seguridad pueden ser sinceros. Pero también encajan con los intereses estratégicos de Estados Unidos.
Una regulación internacional exigente podría:dificultar el desarrollo de empresas chinas;
limitar el acceso de China a chips y sistemas avanzados;
reforzar la posición de las compañías estadounidenses;
permitir a Washington controlar qué tecnologías se venden y a quién;
presentar la superioridad tecnológica estadounidense como una cuestión de seguridad mundial.
En ese sentido, hablar de “seguridad de la IA” puede servir para justificar medidas que también son comerciales y geopolíticas.
Sin embargo, las restricciones pueden producir el efecto contrario al buscado. Si China no puede comprar libremente chips o tecnología estadounidense, tiene más motivos para crear sus propios productos.
Las limitaciones han impulsado a Pekín a invertir en fabricantes nacionales, desarrollar chips alternativos y buscar otras vías para obtener capacidad de cálculo. También han hecho que las empresas chinas intenten producir modelos más eficientes, que necesiten menos recursos para funcionar.
Por eso, los controles pueden retrasar el avance chino, pero no necesariamente detenerlo. Algunos análisis señalan que China ha demostrado capacidad de adaptación, mientras que las restricciones también pueden perjudicar a las empresas estadounidenses al reducir sus ventas en el mercado internacional.
¿Influyó esta rivalidad en la petición de una pausa?
Probablemente sí, de varias maneras.
1- La competencia entre países aumenta la presión para avanzar deprisa. Ninguna empresa quiere detenerse si teme que su rival, estadounidense o chino, continúe desarrollando modelos más potentes.
2- Las compañías pueden pedir reglas comunes para evitar una carrera sin límites. Si todas las empresas deben realizar pruebas de seguridad y someterse a controles, ninguna queda en desventaja por actuar con más prudencia.
3- Esa regulación también puede convertirse en una barrera para los competidores extranjeros y para las empresas más pequeñas. Las compañías estadounidenses que ya dominan el sector podrían conservar su ventaja, mientras que las chinas quedarían limitadas por los controles de exportación y los obstáculos para acceder a chips avanzados.
La inteligencia artificial se ha convertido así en una especie de nuevo espacio de competición internacional, comparable en importancia a la carrera espacial o a la lucha por la energía en otras épocas.
Considero que la rivalidad entre Estados Unidos y China ha influido claramente en el debate sobre el futuro de la inteligencia artificial. La petición de frenar o ralentizar el desarrollo no responde únicamente al miedo a posibles accidentes, sinoque hay, al menos, tres intereses que se mezclan:Evitar riesgos reales derivados de sistemas cada vez más autónomos.
Proteger las inversiones y la posición de las grandes empresas.
Conservar la ventaja estratégica de un país frente a su rival.
Por eso, la petición de regulación puede ser razonable, pero no debería aceptarse sin examinar quién la propone y quién se beneficia de ella. La seguridad es necesaria, pero no puede convertirse en una excusa para crear un mercado cerrado dominado por unas pocas compañías o para utilizar la tecnología únicamente como instrumento de rivalidad entre potencias.
El verdadero desafío consiste en encontrar un equilibrio: avanzar lo suficiente para aprovechar los beneficios de la inteligencia artificial, pero con controles que protejan a la sociedad y que no sirvan para consolidar el poder de quienes ya dominan el sector,
La pregunta que debemos hacernos noes simplemente si hay que frenar la inteligencia artificial, sino quién establece las reglas, quién vigila a las empresas y si la regulación protege a la sociedad o solo a los líderes del mercado.
J Luis Carpintero Avellaneda. Profesional sanitario jubilado y exprofesor de la UMA.
.economía y productividad;
.fabricación de chips;
.vigilancia y control de la información;
.influencia política y propaganda.
Quien domine la inteligencia artificial podría obtener una ventaja considerable sobre sus rivales. Por eso, la competencia entre las empresas está estrechamente relacionada con la competencia entre los dos países.
Por eso, Washington ha impuesto restricciones a la exportación de chips avanzados y de tecnología relacionada con la inteligencia artificial hacia China. El objetivo es dificultar que Pekín desarrolle sistemas militares y tecnológicos capaces de competir con los estadounidenses. China, al mismo tiempo, intenta reducir su dependencia de los chips y programas procedentes de Estados Unidos.
Cuando las empresas estadounidenses piden controles estrictos sobre la IA, sus argumentos de seguridad pueden ser sinceros. Pero también encajan con los intereses estratégicos de Estados Unidos.
Una regulación internacional exigente podría:dificultar el desarrollo de empresas chinas;
limitar el acceso de China a chips y sistemas avanzados;
reforzar la posición de las compañías estadounidenses;
permitir a Washington controlar qué tecnologías se venden y a quién;
presentar la superioridad tecnológica estadounidense como una cuestión de seguridad mundial.
En ese sentido, hablar de “seguridad de la IA” puede servir para justificar medidas que también son comerciales y geopolíticas.
Sin embargo, las restricciones pueden producir el efecto contrario al buscado. Si China no puede comprar libremente chips o tecnología estadounidense, tiene más motivos para crear sus propios productos.
Las limitaciones han impulsado a Pekín a invertir en fabricantes nacionales, desarrollar chips alternativos y buscar otras vías para obtener capacidad de cálculo. También han hecho que las empresas chinas intenten producir modelos más eficientes, que necesiten menos recursos para funcionar.
Por eso, los controles pueden retrasar el avance chino, pero no necesariamente detenerlo. Algunos análisis señalan que China ha demostrado capacidad de adaptación, mientras que las restricciones también pueden perjudicar a las empresas estadounidenses al reducir sus ventas en el mercado internacional.
¿Influyó esta rivalidad en la petición de una pausa?
Probablemente sí, de varias maneras.
1- La competencia entre países aumenta la presión para avanzar deprisa. Ninguna empresa quiere detenerse si teme que su rival, estadounidense o chino, continúe desarrollando modelos más potentes.
2- Las compañías pueden pedir reglas comunes para evitar una carrera sin límites. Si todas las empresas deben realizar pruebas de seguridad y someterse a controles, ninguna queda en desventaja por actuar con más prudencia.
3- Esa regulación también puede convertirse en una barrera para los competidores extranjeros y para las empresas más pequeñas. Las compañías estadounidenses que ya dominan el sector podrían conservar su ventaja, mientras que las chinas quedarían limitadas por los controles de exportación y los obstáculos para acceder a chips avanzados.
La inteligencia artificial se ha convertido así en una especie de nuevo espacio de competición internacional, comparable en importancia a la carrera espacial o a la lucha por la energía en otras épocas.
Considero que la rivalidad entre Estados Unidos y China ha influido claramente en el debate sobre el futuro de la inteligencia artificial. La petición de frenar o ralentizar el desarrollo no responde únicamente al miedo a posibles accidentes, sinoque hay, al menos, tres intereses que se mezclan:Evitar riesgos reales derivados de sistemas cada vez más autónomos.
Proteger las inversiones y la posición de las grandes empresas.
Conservar la ventaja estratégica de un país frente a su rival.
Por eso, la petición de regulación puede ser razonable, pero no debería aceptarse sin examinar quién la propone y quién se beneficia de ella. La seguridad es necesaria, pero no puede convertirse en una excusa para crear un mercado cerrado dominado por unas pocas compañías o para utilizar la tecnología únicamente como instrumento de rivalidad entre potencias.
El verdadero desafío consiste en encontrar un equilibrio: avanzar lo suficiente para aprovechar los beneficios de la inteligencia artificial, pero con controles que protejan a la sociedad y que no sirvan para consolidar el poder de quienes ya dominan el sector,
La pregunta que debemos hacernos noes simplemente si hay que frenar la inteligencia artificial, sino quién establece las reglas, quién vigila a las empresas y si la regulación protege a la sociedad o solo a los líderes del mercado.
J Luis Carpintero Avellaneda. Profesional sanitario jubilado y exprofesor de la UMA.
Nenhum comentário:
Postar um comentário