Algunos sistemas de IA mienten con sorprendente soltura y cambian además deliberadamente su comportamiento para fingir ser honestos.
Algunos sistemas de IA mienten con sorprendente soltura y cambian además deliberadamente su comportamiento en tests de seguridad para fingir ser honestos. de grandes empresas tecnológicas como Meta, Google y OpenAI se muestran cada vez más hábiles engañando a los usuarios e intoxicando con sus patrañas a los seres humanos de carne y hueso. Sin embargo,
Peter Park, investigador del MIT, se inspiró a la hora de emprender esta investigación en el sistema de IA Cicero de. Este modelo, que se usa en el juego de estrategia «Diplomacy», fue especialmente concebido por sus creadores para hacer gala de un comportamiento lo más honesto y útil posible. Sin embargo, el análisis del MIT reveló que en algunos casos Cicero mintió deliberadamente a los usuarios y conjuró además contra ellos.
Los investigadores del MIT hacen hincapié en la necesidad de que los gobiernos redacten cuanto antes leyes con el foco puesto en la IA para adelantarse a los eventuales engaños perpetrados por esta tecnología. «Nuestro trabajo en Cicero fue meramente un proyecto de investigación. Y los modelos que desarrollamos fueron entrenados exclusivamente para jugar a ‘Diplomacy'», asegura un portavoz de Meta sobre los preocupantes resultados arrojados por los tests emprendidos por los investigadores del MIT.. «Comportimos regularmente los resultados de nuestras investigaciones para validarlas y permitir que otros pueden hacer ulteriores progresos sobre ellas.
Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen
Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.
Si tienes uno de estos apellidos comunes en Castilla-La Mancha, desciendes de los árabesAlgunos de estos apellidos son algunos de los más comunes en toda España.
Weiterlesen »
ING eleva el importe mínimo para sacar dinero sin comisiones en algunos cajeros de otros bancosEn la red de Euro6000 no se cobran comisiones para retiradas de hasta 50€ y en Euronet y Euro Automatic Cash es gratis siempre para clientes de ING.
Weiterlesen »
¿Por qué se hinchan algunos envases de comida y qué debes saber cuando esto pasa?Es probable que alguna vez te hayas encontrado con algún envase más abultado de lo normal, que se ha hinchado pese a que aún no lo has abierto y que tampoco ha pasado la fecha de caducidad. Este efecto podemos encontrarlo en varios tipos de envases de alimentos, desde frascos, latas, bolsas o bandejas.
Weiterlesen »
El innovador tratamiento con pulsos eléctricos que les devolvió algunos movimientos a personas paralizadasUna paciente que perdió movimiento en su mano por un accidente de hace 14 años ahora puede usarla para deslizar la pantalla en un teléfono inteligente.
Weiterlesen »
Palestina tiene el tiempo justo en el Congreso porque algunos están a otra cosaEl via crucis parlamentario de 2024 se está haciendo muy largo. Hemos pasado tres elecciones autonómicas y quedan pendientes las europeas. Todas ellas han dejado prácticamente en suspenso la actividad legislativa que ya se mueve sólo a ritmo de mala leche.
Weiterlesen »
Robe Iniesta: “Algunos años de joven me cuentan como los años de perro”El músico extremeño, que actúa este sábado en Madrid, dentro de su exitosa reciente gira, habla de su manera de escribir, la filosofía o su frustrada colaboración con C. Tangana
Weiterlesen »