Comisión cita el "imperativo moral" de explorar armas de IA

04.02.2021 a las 04:23 hs 146 1

Una comisión estadounidense cita el "imperativo moral" de explorar las armas de IA.


(Reuters) - Estados Unidos no debería acordar la prohibición del uso o el desarrollo de armas autónomas impulsadas por software de inteligencia artificial (IA), dijo un panel designado por el gobierno en un proyecto de informe para el Congreso.

El panel, dirigido por el ex director ejecutivo de Google, Eric Schmidt, concluyó el martes dos días de debate público sobre cómo la mayor potencia militar del mundo debería considerar la IA para la seguridad nacional y el avance tecnológico.

Imperativo moral


Su vicepresidente, Robert Work, ex subsecretario de Defensa, dijo que se espera que las armas autónomas cometan menos errores que los humanos en la batalla, lo que llevaría a reducir las bajas o escaramuzas causadas por la identificación errónea de objetivos.

"Es un imperativo moral perseguir al menos esta hipótesis", dijo.


El debate se adentró en la controvertida frontera de los derechos humanos y la guerra. Desde hace unos ocho años, una coalición de organizaciones no gubernamentales ha impulsado un tratado que prohíba los "robots asesinos", alegando que el control humano es necesario para juzgar la proporcionalidad de los ataques y asignar la culpa de los crímenes de guerra. Treinta países, entre ellos Brasil y Pakistán, quieren una prohibición, según el sitio web de la coalición, y un organismo de las Naciones Unidas ha celebrado reuniones sobre los sistemas desde al menos 2014.

El despertar de Skynet


Aunque las capacidades de las armas autónomas tienen décadas de antigüedad, la preocupación ha aumentado con el desarrollo de la IA para impulsar estos sistemas, junto con la investigación que ha encontrado sesgos en la IA y ejemplos de abuso del software.

El panel estadounidense, denominado Comisión de Seguridad Nacional sobre Inteligencia Artificial, reconoció en sus reuniones de esta semana los riesgos de las armas autónomas. Un miembro de Microsoft Corp, por ejemplo, advirtió de la presión para construir máquinas que reaccionen con rapidez, lo que podría intensificar los conflictos.


El panel sólo quiere que los humanos tomen decisiones sobre el lanzamiento de cabezas nucleares.

Aun así, el panel prefiere la labor de antiproliferación a un tratado que prohíba los sistemas, que, según dijo, iría en contra de los intereses de Estados Unidos y sería difícil de aplicar.

Las tres reglas de la robótica


Mary Wareham, coordinadora de la Campaña para Detener los Robots Asesinos, que lleva ocho años funcionando, dijo que el "enfoque de la comisión en la necesidad de competir con inversiones similares realizadas por China y Rusia... sólo sirve para fomentar las carreras armamentísticas".

Más allá de las armas impulsadas por la IA, el extenso informe del panel recomendaba el uso de la IA por parte de las agencias de inteligencia para agilizar la recopilación y revisión de datos; 32.000 millones de dólares de financiación federal anual para la investigación de la IA; y nuevos organismos que incluyan un cuerpo digital inspirado en el Cuerpo Médico del ejército y un consejo de competitividad tecnológica presidido por el vicepresidente de Estados Unidos.

La comisión debe presentar su informe final al Congreso en marzo, pero las recomendaciones no son vinculantes



Puntos: 445


Comentarios (5)


Cargando comentarios espera un momento...
No tienes permisos para comentar.
Para poder comentar necesitas estar Registrado. O.. ya tienes usuario? Logueate!