Anthropic prevé que habrá empleados virtuales impulsados ​​por IA en el próximo año, según declaró Jason Clinton, que es el principal responsable de seguridad de la compañía a Axios en una entrevista.

En seguridad, esto implica que los agentes autónomos responderán a alertas de phishing y otros indicadores de amenazas. Según las novedades, los empleados virtuales llevarían esa automatización más allá ya que se está trabajando "para estas identidades de IA tengan sus propias "memorias", sus propios roles en la empresa e "incluso sus propias cuentas y contraseñas corporativas".

En Genbeta

La empresa de una de las mejores IA pide que nadie envíe su CV con inteligencia artificial. Quieren conocer las habilidades reales

Anthropic asume que existen dos responsabilidades que hay que tener en cuenta para abordar los desafíos de seguridad relacionados con la IA. Primero, probar exhaustivamente los modelos de Claude para garantizar que resistan ciberataques; y, en segundo lugar, monitorear los problemas de seguridad y mitigar las formas en que los actores maliciosos puedan abusar de Claude, todo según las palabras de Clinton.

Es curioso que esta misma empresa haya pedido a los trabajadores humanos que no usen la IA para crear sus currículums o cartas de motivación cuando quieran acceder a alguna vacante en la firma, porque buscan conocer sus habilidades reales.

Grandes problemas de seguridad que resolver

El directivo afirma que hay muchos problemas de seguridad en torno a los empleados virtuales …