Anthropic recrute des experts en armes chimiques pour prévenir les abus de Claude, les experts remettent en question si cette mesure pourrait augmenter les risques

Gate News rapporte qu’aujourd’hui, le 17 mars, Anthropic a publié une offre d’emploi sur LinkedIn pour le poste de « Responsable des politiques sur les armes chimiques et les explosifs à haute puissance », exigeant au moins 5 ans d’expérience dans la domaine de la défense contre les armes chimiques et/ou les explosifs, ainsi qu’une connaissance des dispositifs de dispersion radioactive (bombe sale). Anthropic indique que ce poste vise à empêcher que son outil d’IA, Claude, ne soit utilisé à des fins « d’abus catastrophiques », craignant que Claude ne soit exploité pour obtenir des informations sur la fabrication d’armes chimiques ou radiologiques, et nécessitant une évaluation par des experts pour vérifier si les mesures de sécurité existantes sont suffisamment strictes. Une autre société d’IA a également publié une offre similaire sur sa page de recrutement, recherchant un chercheur en risques biologiques et chimiques, avec un salaire annuel pouvant atteindre 455 000 dollars. À ce sujet, la docteure Stephanie Hare, co-animatrice de l’émission « AI Decoded » de la BBC et chercheuse en technologie, a exprimé ses doutes : « Est-il vraiment sûr de laisser un système d’IA traiter des informations sensibles sur des produits chimiques, des explosifs et des armes radiologiques, même si on lui a donné l’ordre de ne pas utiliser ces données ? » Elle a également souligné qu’aucun traité ou réglementation internationale ne régit actuellement ce type de travail ni l’utilisation combinée de l’IA avec ces armes, « tout cela se déroule en dehors de la vue du public ».
Avertissement : Les informations figurant sur cette page peuvent provenir de sources tierces et sont fournies à titre indicatif uniquement. Elles ne reflètent pas les points de vue ou opinions de Gate et ne constituent pas un conseil financier, d’investissement ou juridique. Le trading des actifs virtuels comporte des risques élevés. Veuillez ne pas vous fonder uniquement sur les informations de cette page pour prendre vos décisions. Pour en savoir plus, consultez l’avertissement.
Commentaire
0/400
Aucun commentaire