Senior Staff Fundamental Researcher - AI Agent Safety & Security

ServiceNow

  • Montreal, QC
  • Permanent
  • Full-time
  • 16 days ago
Company DescriptionTout a commencé sous le soleil de San Diego, en Californie, en 2004, lorsqu'un ingénieur visionnaire, Fred Luddy, a vu le potentiel de transformer notre façon de travailler. Aujourd'hui, ServiceNow se présente comme un leader mondial du marché, apportant une technologie innovante améliorée par l'IA à plus de 8 100 clients, dont 85% des entreprises du Fortune 500®. Notre plateforme intelligente basée sur le nuage connecte de manière transparente les personnes, les systèmes et les processus pour permettre aux organisations de trouver des méthodes de travail plus intelligentes, plus rapides et meilleures. Mais ce n'est que le début de notre voyage. Joignez-vous à nous dans la poursuite de notre objectif de rendre le monde meilleur pour tous.It all started in sunny San Diego, California in 2004 when a visionary engineer, Fred Luddy, saw the potential to transform how we work. Fast forward to today - ServiceNow stands as a global market leader, bringing innovative AI-enhanced technology to over 8,100 customers, including 85% of the Fortune 500®. Our intelligent cloud-based platform seamlessly connects people, systems, and processes to empower organizations to find smarter, faster, and better ways to work. But this is just the beginning of our journey. Join us as we pursue our purpose to make the world work better for everyone.Job DescriptionDescription de Poste:En tant que Scientifique Chercheur Principal spécialisé dans la Sécurité et la Sûreté des Agents IA, vous dirigerez des initiatives de recherche axées sur la garantie de la sécurité, de la sûreté et de la confidentialité des agents IA opérant dans des environnements d'entreprise. Alors que la communauté NLP et IA se concentre sur le développement des capacités de base des agents, ServiceNow Research explore des dimensions complémentaires cruciales pour l'adoption en entreprise, y compris les mécanismes de sécurité, la détection des menaces, les garanties de confidentialité et les pratiques d'IA responsable.Dans ce rôle, vous collaborerez étroitement avec des scientifiques chercheurs, des ingénieurs, des chercheurs invités et des partenaires académiques pour faire avancer l'agenda scientifique de l'équipe. Vous resterez activement impliqué dans la communauté mondiale de recherche en IA et aiderez à encadrer les chercheurs invités. Au-delà de l'avancement de la recherche, vous contribuerez stratégiquement au développement de produits en conseillant les équipes internes et en soutenant l'intégration des innovations de recherche dans la plateforme ServiceNow.Nous attendons de tous les scientifiques chercheurs qu'ils soient capables d'écrire, de maintenir et d'optimiser des logiciels de recherche pour soutenir l'expérimentation et le déploiement.Responsabilités:
  • Mener des recherches appliquées et fondamentales sur des sujets liés à la sécurité, à la sûreté et à la confidentialité des agents IA.
  • Contribuer et aider à diriger les projets de recherche à fort impact de l'équipe.
  • Proposer, développer et publier des recherches originales alignées sur la mission de l'équipe.
  • Superviser et encadrer les stagiaires en recherche.
  • Collaborer avec les équipes internes de produits et d'ingénierie pour intégrer les avancées de la recherche dans la plateforme ServiceNow.
  • S'engager avec la communauté de recherche plus large à travers des publications, des conférences et des contributions open-source.
  • Se tenir au courant des avancées en matière de sécurité, de sûreté, de confidentialité et d'architectures d'agents IA.
As a Sr Staff Research Scientist specializing in AI Agent Safety & Security, you will lead research initiatives focused on ensuring the safety, security, and privacy of AI agents operating in enterprise environments. While much of the NLP and AI community focuses on building core agent capabilities, ServiceNow Research investigates complementary dimensions crucial for enterprise adoption, including safety mechanisms, threat detection, privacy safeguards, and responsible AI practices.In this role, you will collaborate closely with research scientists, engineers, visiting researchers, and academic partners to drive the team's scientific agenda forward. You will stay actively involved in the global AI research community and help mentor visiting researchers. Beyond advancing research, you will contribute strategically to product development by advising internal teams and supporting the integration of research innovations into the ServiceNow platform.We expect all research scientists to be capable of writing, maintaining, and optimizing research-grade software to support experimentation and deployment.Responsibilities:
  • Conduct applied and fundamental research on topics related to AI agent safety, security, and privacy.
  • Contribute to and help lead the team's high-impact research projects.
  • Propose, develop, and publish original research aligned with the team's mission.
  • Supervise and mentor research interns.
  • Collaborate with internal product and engineering teams to integrate research advances into ServiceNow's platform.
  • Engage with the wider research community through publications, talks, and open-source contributions.
  • Stay abreast of advances in AI safety, security, privacy, and agent architectures.
QualificationsQualifications:
  • Doctorat en apprentissage automatique, informatique, intelligence artificielle ou un domaine connexe.
  • De préférence 2+ années d'expérience post-doctorale en recherche.
  • Un historique prouvé de recherche sur des sujets liés à la sécurité, à la sûreté ou à la confidentialité de l'IA - idéalement appliqué aux agents IA ou aux grands modèles de langage.
  • Compétences solides en ingénierie logicielle, avec expertise en Python (NumPy, PyTorch); la familiarité avec Java, JavaScript ou R est un plus.
  • Expérience de contribution à des conférences AI/ML de premier plan telles que NeurIPS, ICLR, ICML, ACL, EMNLP ou similaires.
  • Un état d'esprit proactif et collaboratif avec la capacité d'équilibrer l'ambition de recherche fondamentale avec les besoins d'application en entreprise.
Qualifications:
  • Ph.D. in machine learning, computer science, artificial intelligence, or a related field.
  • Preferably 2+ years of post-Ph.D. research experience.
  • A proven track record of research in topics related to AI safety, security, or privacy - ideally applied to AI agents or large language models.
  • Strong software engineering skills, with expertise in Python (NumPy, PyTorch); familiarity with Java, JavaScript, or R is a plus.
  • Experience contributing to top-tier AI/ML conferences such as NeurIPS, ICLR, ICML, ACL, EMNLP, or similar.
  • A proactive, collaborative mindset with the ability to balance fundamental research ambition with enterprise application needs.
Additional InformationWork PersonasNous abordons notre monde du travail distribué avec flexibilité et confiance. Les profils de travail (flexible, à distance ou requis au bureau) sont des catégories attribuées aux employés de ServiceNow en fonction de la nature de leur travail et de leur lieu de travail assigné. Pour déterminer l'éligibilité à un profil de travail, ServiceNow peut confirmer la distance entre votre résidence principale et le bureau ServiceNow le plus proche à l'aide d'un service tiers.Equal Opportunity EmployerServiceNow est un employeur qui souscrit au principe de l'égalité d'accès à l'emploi. Tous les candidats qualifiés recevront une considération pour l'emploi sans égard à la race, la couleur, la croyance, la religion, le sexe, l'orientation sexuelle, l'origine nationale ou la nationalité, l'ascendance, l'âge, le handicap, l'identité ou l'expression de genre, l'état matrimonial, le statut d'ancien combattant ou toute autre catégorie protégée par la loi. De plus, tous les candidats qualifiés ayant des antécédents d'arrestation ou de condamnation seront pris en considération pour un emploi conformément aux exigences légales.AccommodationsNous mettons tout en œuvre offrir une expérience accessible et inclusive pour tous les candidats. Si vous avez besoin d'une mesure d'adaptation raisonnable pour compléter une partie du processus de candidature ou si vous n'êtes pas en mesure d'utiliser cette candidature en ligne et que vous avez besoin d'une autre méthode pour postuler, veuillez communiquer avec pour obtenir de l'aide.Export Control RegulationsPour les postes nécessitant l'accès à une technologie contrôlée assujettie aux règlements sur les contrôles à l'exportation, y compris les U.S. Export Administration Regulations (EAR), ServiceNow peut être tenu d'obtenir l'approbation des autorités gouvernementales en matière de contrôle des exportations pour certaines personnes. Tout emploi est subordonné à l'obtention par ServiceNow d'une licence d'exportation ou d'une autre approbation qui pourrait être requise par les autorités de contrôle des exportations compétentes.Extrait de Fortune. ©2025 Fortune Media IP Limited. Tous droits réservés. Utilisé sous licence.Work PersonasWe approach our distributed world of work with flexibility and trust. Work personas (flexible, remote, or required in office) are categories that are assigned to ServiceNow employees depending on the nature of their work and their assigned work location. . To determine eligibility for a work persona, ServiceNow may confirm the distance between your primary residence and the closest ServiceNow office using a third-party service.Equal Opportunity EmployerServiceNow is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, creed, religion, sex, sexual orientation, national origin or nationality, ancestry, age, disability, gender identity or expression, marital status, veteran status, or any other category protected by law. In addition, all qualified applicants with arrest or conviction records will be considered for employment in accordance with legal requirements.AccommodationsWe strive to create an accessible and inclusive experience for all candidates. If you require a reasonable accommodation to complete any part of the application process, or are unable to use this online application and need an alternative method to apply, please contact for assistance.Export Control RegulationsFor positions requiring access to controlled technology subject to export control regulations, including the U.S. Export Administration Regulations (EAR), ServiceNow may be required to obtain export control approval from government authorities for certain individuals. All employment is contingent upon ServiceNow obtaining any export license or other approval that may be required by relevant export control authorities.From Fortune. ©2025 Fortune Media IP Limited. All rights reserved. Used under license.

ServiceNow