Get new episodes right on your device by following us wherever you get your podcasts:
Click for the podcast transcript // Cliquez pour la transcription en français
Artificial intelligence is changing cybersecurity on both sides of the equation. It can help attackers move faster, automate more of their work and connect weaknesses at a scale that was previously impossible. But it is also giving defenders new ways to identify vulnerabilities, strengthen critical systems and respond more quickly.
In this episode, Joe Martinez, Executive Vice President and Chief Security Officer at Scotiabank, and Anthony Belfiore, Chief Operating Officer at Wiz, a cloud and AI security company, explain how AI is accelerating the cybersecurity race, how organizations are responding and what consumers can do to protect themselves.
They also dive into:
• how AI is changing the speed and scale of cyberattacks
• why frontier models can uncover connections and vulnerabilities that humans might miss
• how the discovery of a major vulnerability shows AI’s potential as a defensive tool
• why collaboration across Canada’s financial sector is essential to protecting critical infrastructure
• what consumers can do to protect themselves from phishing, fraud, impersonation and deepfakes
For legal disclosures, please visit http://bit.ly/socialdisclaim and www.gbm.scotiabank.com/disclosures
Key moments this episode:
00:01:28 - The accelerating pace of AI
00:02:14 - AI’s impact on attackers and defenders
00:04:44 - Protecting critical banking systems
00:07:30 - The cybersecurity risks of AI agents
00:09:28 - Keeping humans involved in critical decisions
00:10:34 - What are frontier AI models?
00:12:27 - Using AI to uncover security weaknesses
00:15:19 - The biggest cyber threats to consumers
00:16:58 - How to protect your personal information
00:18:03 - The importance of considering unintended consequences with AI
00:18:45 - What Canadians should understand about AI
00:20:07 - Can cyber-defenders keep pace?
Scotia Advice+
Armina: Artificial intelligence is changing a lot of things. But it is changing the cybersecurity landscape at remarkable speed.
It’s helping cybercriminals automate attacks, target more people and exploit weaknesses faster. It’s also giving cybersecurity teams more powerful ways to identify those weaknesses and defend against them.
Joe: So if the internet gave all these attackers essentially global reach and the cloud gave them scale, the AI stuff gives them speed and velocity.
Armina: That’s Joe Martinez, Executive Vice President and Chief Security Officer at Scotiabank.
That speed Joe mentioned, is forcing cybersecurity teams to evolve. They need to protect critical systems while keeping pace with new technology and helping their organizations use it safely.
So, how can defenders move quickly enough to stay ahead?
Joe Martinez joins me alongside Anthony Belfiore, Chief Operating Officer at Wiz – a cloud and security company recently acquired by Google. We discuss how AI is impacting cybersecurity, the risks, frontier models and how they can help uncover serious security flaws, and what Canadians can do to protect themselves.
I’m Armina Ligaya, and this is Perspectives. Now, here’s our conversation.
Anthony, Joe, welcome to the show.
Joe: Well, thank you for having us.
Anthony: Happy to be here.
Armina: Anthony, you've been in cybersecurity for a long time. A lot has changed, obviously, but the evolution has certainly been rapid, particularly rapid over the last couple of years with advances in AI. So let's start there to sort of set the context here.
So how does the current pace of change compare with what you would've seen maybe a decade ago or even more?
Anthony: Yeah, I think the way to think about it — there's something in your comp sci class when you took courses back in university called Moore's Law, and effectively it was like every six months something goes obsolete.
I think we're, like, week to week now. I think the level and pace of evolution, revolution with AI is just changing the game.
Armina: What does that mean for cybersecurity? For example, we often hear that with AI it's helping cyber criminals launch more sophisticated attacks, larger and at a bigger scale.
But at the same time, defenders are using AI to identify and respond to those threats. So how does that rapid pace of change, how does it sort of change the balance between the two sides of cyber defenders and cyber attackers?
Anthony: Using AI is a double-edged sword these days, right? I think there's a couple different sides to it.
First, I think not just taking the defender, the adversary and the defender's side of it, but when you look at just the need to leverage this differentiating technology for your business, for that market-differentiating capability for your customer base and to compete, because it's really challenging for guys like me and Joe in the roles that we run in these companies, in terms of how do we allow the business to innovate and evolve at light speed the way that it's happening today?
Because if you don't, you're going to get left behind. So you're kind of always finding these shades of gray and balance.
And you're trying to basically manage risk and trade-offs. And the real challenge there is that a lot of that discretion and capability we had maybe just two years ago to kind of pump the brakes and slow down is out the window now because the pace of innovation, like I said, we're in an AI evolution/revolution, has just taken our ability to manage and hold back the tsunami away.
So the only option you have as a defender to fight these guys is to fight fire with fire, unfortunately, and to get more autonomous and more AI-enabled in your business processes and your capabilities.
Armina: Mm-hmm. I want to turn that question over to you, Joe. What is your take on that from your perspective?
Joe: It's a really good point about the pace of change, and I think we've spoken both to our leadership and then as well as even the Canadian CISOs, around, like, we can't be running a neighborhood jog when everyone is doing an Olympic sprint. The business is at an Olympic sprint pace. The threat actors are racing to try to take advantage of this because it amps up their velocity, so what used to take an individual maybe hours/days can be accomplished now by minutes.
Armina: Mm-hmm.
Joe: And we on the security side, we have to use these tools as well to do both sides of that coin, which is how do we secure AI for the business so it can empower the client experience and drive strong value, and then how do we use it to defend it, against what the threats that are coming at us from all sides, right?
Both what our enterprises are feeling, what our partners, our supply chain, everything in between. Everyone's running a race. We just want to be running at the speed that everybody else is coming at it too.
Armina: Mm-hmm. So when you are running this race, how do you respond to it? Like obviously you're saying fight fire with fire, but what are some sort of broader guidelines or broader things you need to keep in mind in this sort of evolving landscape?
Joe: Everything old is new again, so we're working hard on figuring out how we can really protect our most critical assets that we have at the Bank, so like our payment rail, our systems, our trading platforms, and the like, where we think through how can we really segment this environment out?
How can we really put a wall around us that's really, really strong? It still has to be interconnected in the nature of the sort of the industry that we're in now, but we know that there's items that sort of constitute the core components of what makes up a financial institution, and those things, we're going back to old school, which is how do we wrap this in a way that we really finally control, which is we know we see it, we can touch it, we can feel it, and then we think we have a really strong sense of control around it.
But it's challenging because you got to do both, and then you also still have to innovate. And in a widely interconnected environment, that means things are going to touch each other, which then leads to vectors of attack. We're at an inflection point for sure, so if the internet gave all these attackers essentially global reach and the cloud gave them scale, the AI stuff gives them speed and velocity.
So at every one of these inflection points, we got to figure out how do we still address all of those concerns while still protecting what's core and what makes us a business, but also still deliver the value that the clients are expecting?
It's challenge. It's work.
Anthony: I think an interesting byproduct of this change and this kind of this wave of innovation is that what's old is new and what's new is old. And what I mean by that is what was happening for years was we were moving to cloud. We were pivoting our software, our control frameworks, our monitoring capabilities to manage cloud risk at scale. and now we're bringing it all back in. All those data centers that we were getting rid of for years, that we had that huge investment in, all that CapEx, is coming back in-house. And so what's happening that's very interesting is some of those older solutions that we're deprecating are actually back in, kind of back in view and need to be used again to protect and manage risk, like old technologies in the network space and technologies in proxy and different, different areas, the access management that we just hadn't done in years. On the other side of it, there's new bleeding edge solutions every day with the markets in India and China and Israel and all these unbelievably disruptive startup markets. So it's a balance of the old, like leveraging the old and our old school capabilities and our legacy pattern recognitions and balancing that with the new bleeding edge innovation that's going to take it to the next level.
Armina: You mentioned agentic, and everyone's talking about AI, but agentic is obviously one of the innovations that has become more household-like. You know, everyone's got an agent doing something. Not necessarily everyone, but more than I would have thought at this point.
So with agentic AI, what from a cybersecurity point of view, what new risk does that create? And then how do institutions manage them? Maybe I'll start with you, Joe.
Joe: So a lot of the work that the teams are trying to figure out what these agents can and cannot do. So a little bit of autonomy. So in other words, the, the AI is being leveraged, not so much independent of humans, but it's working essentially a lot faster.
So it can take human activities and really close the gap between what used to take hours to minutes, and then now it's down to seconds, and do so with a high amount of velocity. So the threat actors can now automate. Instead of spending weeks and months trying to figure out and test and probe and try to get a sense of your environment and where your weaknesses are, now the agents can do that on their behalf and help them automate, and now it can widen out.
Instead of going after one potential victim, it's a multiplicity of victims overall. Corporate enterprises, they can go against our clients and the general population. If you've received a spam call or a phishing attack, that stuff's being automated. These agents, like what we're using to empower the business, are items where we want to do that safely in a way so that we know what they're doing, and then you've seen the news stories.
Some of them are starting to break out of their jail, right? So they're having unintended consequences, where you ask it to do a job, and it does the job, but you may not know exactly how it did that job or you may be surprised about the approach it took to do that. Again, the agent is non-discriminatory.
It doesn't, it doesn't have morals. You would hope it would have ethics, but it's not a human, and I think there we have to be really cautious to make sure that we have a good understanding of the expectation as to what these what these agents do within our environment. It achieves the outcome that we expect it to achieve. That is essentially driving value for the business and driving value for the clients.
So it's a dance. It's empowering the threat actors. It's empowering the business. And then our clients are also being empowered as well, too, because everyone's essentially agent-ifying their environment.
Armina: So then how do you sort of balance that? You want to leverage this innovation, but at the same time still incorporate that human judgment.
How do you balance technology and human judgment in that way?
Joe: We do a little bit of human in the loop, right? So there's a step change. Mm-hmm. So they're not running on their own and making up their own minds. You may read the news stories and think that they're collaborating with each other, and they're creating channels of communications unbeknownst to the humans.
But I think having the humans in the loop, especially on critical processes is a must-have, right? You have to have someone that can check and actually validate what the agents are doing. But I don't think you displace the humans in these aspects, right? The critical discernment that an individual has to understand within the boundaries of, like, what is the business imperative, what are the client expectations, what are the regulatory components that you have to make sure that you have high assurance on?
Those things are going to be pretty hard for an agent to come realize, and that's what we have us for. The question is what's the balance, right? How much of it do you automate, and how much of it do you still have the humans involved? Because you think that the humans are slow, but there's still things that agents can't do, and that humans are actually pretty good at.
Armina: I want to talk about frontier models. We're hearing more and more about that. Well, maybe let's just start at a basic level. For those who are listening who may not know, what is a frontier model?
Anthony: When we say frontier, it's really a model of a certain scale in terms of what we call weights and parameters, the amount of switches you can turn on and off in the model, so to speak.
It's a very simplistic term. Uh, the amount of data that's been used to train it and the amount of compute you can throw behind it. So it's a real differentiator. There's a lot of smaller models out there quantitatively, like in terms of size and scale. But in terms of effectiveness, intelligence, or pseudo-intelligence, depending on how you look at this the models that have more data and more compute and a lot more parameters and weights that you can throw at things can do a lot more.
And so a, a general frontier level model sits around a trillion parameters, okay? Versus the majority of use cases you need for an AI and a model probably sit around, you probably only need a model that has 50 billion parameters.
They're, they tend to be a lot more functional and effective at scale.
Armina: So let's take this back to cybersecurity. So what are these clearly very sophisticated, giant frontier models? Like, what does that mean for the cyber security landscape?
Joe: Yeah, so I think the way we see it in terms of the size of the model, the scale of the compute, and then the reasoning engine that's behind it are important.
And what that's done to security is that they're able now to stitch together things that are sort of like patterns, interconnection points, that really get to exposing weaknesses. So that's why the model's become so interesting is, because it needs a very large model to understand how things are related with each and how one step leads to another step leads to another step.
And I think that's been the sort of the, the, the really big jumping-off point where now all of the CISOs are on the same boat because we're trying to see, can we use these frontier models? Never mind the threat actors using these frontier models to find our weaknesses.
Why don't we use them ourselves, to find our own weaknesses and then try to close those holes?
Armina: For sure, and that's a good segue over to you, Anthony, to talk about Wiz and Wiz has helped uncover serious vulnerabilities. Maybe you can walk us a little bit through how Wiz does that and how, as we're talking about frontier AI models have helped.
Anthony: Wiz really was a product of the cloud evolution revolution, right? And we were in a very unique position because we timed it perfectly in terms of the move to cloud and an ability to provide colour and context of what happens to my systems when they move to the cloud. We built a solution in the cloud that could, in 15 minutes or less, tell you every cloud asset you had, how everything looked, and every vulnerability you had at scale.
And so we simplified an equation for them, and we solved the problem in a timely manner that no one could solve. That led to this rapid rise and led to the acquisition by Google. How does the Google-Wiz merger coming together help lead to outcomes like finding these vulnerabilities. We have the ability to do things we never could do before. And to Joe's point, we were always bounded by human, the human mind and our ability to kind of figure out that if I connect these 15 dots, I can, I can get in.
Well, we're limited. We can only maybe do that uh, to a couple of levels. The AI is not limited. The AI will go a thousandth level down and, and find, to Joe's point, stitch together 2,000 discrete vulnerabilities into an attack, which we would have never thought of doing. We just couldn't do it.
And so exceptional cyber data and expertise combined with exceptional AI and compute infrastructure at scale, which Google's got some of the best in the world, led to a phenomenal outcome.
Armina: And, and let's talk a little bit more about frontier AI and PHP. Can you walk us through that discovery and how the frontier AI played a role?
Anthony: The Wiz research team in Tel Aviv working with Google's AI and a couple other AI models and these guys are exceptional what they do, and they've, over the last seven years, have released so many leading-edge vulnerabilities based on their work and their muscle, and now you've supersized them and super-sped them up with AI, with really effective AI.
So these AIs are getting context and colour at a scale, at a level of depth that was not humanly possible, not computer possible before.
Joe: So when these bang-on research teams come out with these items, we can also implement those changes in a way that helps rise, sort of like the rising tide lifts all boats. So that all of us can help defend the sector, right? So as critical infrastructure for Canada, I think it's really important that we're constantly talking about these exposures and then navigating what's working and what's not.
Armina: I want to take a little bit of a step back because obviously we're talking about...
It's a very complex time in cybersecurity, both for companies but also for consumers. So I wanted to get from both of you, what do you see as the number one cyber threat facing consumers or companies right now, and what can they do to better protect themselves?
Joe: Yeah. So I can cover the, at least on the consumer side and then and then maybe Anthony, if you want to talk to the enterprise side since you have a lot of client interactions.
So for us, I think we're, like, keenly focused on the impact to the consumer fraud, and phishing and then the ability of folks that are intent to do harm co-opting sort of our clients' identities the impersonation, the deepfakes that happen. You know getting a phone call at 3:00 a.m. and someone pretending to be your grandchild and saying, "Please help," and it's not really your grandchild, in that respect, so all the way to conducting a transaction that you think is legitimate and then all of a sudden having sort of an exit of a lot of financial assets leave in an unauthorized point.
So I think that becomes, like, a really key concern, like, not just the education that we want to do in partnership with our clients to help them understand the risks and the threats that are out there that they should sort of like be wary to navigate against. But also give them in the sense that interacting with us is a is, is meant to be a safe transaction —
Armina: Mm-hmm.
Joe: — in that respect. So I think there's a lot of work that's underway. The fraud piece is probably the most impactful item that comes in. No one, no one's ever comfortable, that you fall victim to one of these campaigns, and then all of a sudden someone loses their mortgage money or their children's tuition or whatever it may be, or the college fund.
Those are just not good experiences for anyone. They're going right to where the clients are, and they're using that vector, to get access to those instruments.
Armina: So from the consumer's perspective, it's really important to be educated and aware of the evolving landscape and being careful in terms of well, it's obviously probably basic cybersecurity hygiene, but also just being very careful with your information and up to date on the evolving threats.
Joe: It is. It is. Yeah, you want to be really careful about giving anything in terms of, like, your credentials, your passwords, your account numbers, anything that's really trusted information. That's something that you really want to keep close to the vest and be really cautious. And then as well, if someone calls or emails, you should always be questioning whether or not is this is legitimate or not.
Because in this stage right now, the attackers are taking advantage of that, especially when it's a timeliness issue where they're saying, "You please must respond by now, or else," that there's an ultimatum. Those are things that you should always be suspicious of, and at the end of the day, you can always call the bank.
Don't call the number that they texted you. Call the number that you know that is legitimate and then how to validate in that respect. So I think education is really, really important in this space.
Armina: Hmm. I want to turn that over to you, Anthony.
Anthony: What I'm really worried about, I know we have to be worried about the bad actors and the attackers, but I'm really worried about someone trying to do something really cool with AI and good, and there's an unintended consequence or byproduct because AI doesn't parse or understand literally kind of your prompts always the way you want them to understand it but generally speaking, you can imagine with the way we're using AI in enterprises today, the complexity that goes into understanding exactly how the behavior of the AI is going to evolve, and the unknown there.
But we definitely have challenges, and I think the only way that we're going to be able to stay in front of this is have AI help us deal with the, with the sprawl and the, and the evolution.
Armina: And that brings me to my last question. Can I get you to kind of look ahead? I know it's hard to, considering how quickly it changes, but if you can, looking ahead, what do you think Canadians need to understand about AI and cybersecurity today, and what gives you confidence that the defenders can keep pace as the technology becomes more powerful and evolves?
Anthony: I would start with like there's no consequence-free use of something. Like, there's always a knock-on effect, so always try to think about if I choose to kind of take this technology and make it part of my life and, and use it in my day-to-day operation, what could be a downside of that?
There's a lot of unintended consequences. You know, caveat emptor. Buyer beware. Make sure you understand what you're getting into business with, I should say here. On the other side of it, though, I think going old school and maybe not having everything online and maybe not using all these things and having a backup plan that just candidly, like, that just, you know, I'm not trying to be a prepper here or something.
But just thinking about things in ways we used to think about them in the '60s, '70s, and '80s might, might apply to kind of how you protect yourself God forbid there were a major outage or there was a major impact from these. I would say in the next two years we're going to realize the impact, whether intentional or unintentional.
There's just too much flux. There's just too much complexity.
Armina: But what gives you confidence that defenders like yourself can keep pace with the technology?
Anthony: I think we're always going to be a step behind.
It's easier to attack than defend. It's just the nature of the beast, but I think we'll be close, and we can keep it, we can manage the risk within reason. I don't know if we'll ever be able to real time defend at pace against the AIs. I think they're always going to have a bit of an advantage.
Armina: How about you, Joe?
Joe: Oh, I take a like, a long view to things. It is transformative. Anthony's dead right. This will change and maybe even fundamentally change the way that we interact, not just with technology, but there's just I guess society as a whole.
The internet age was one thing, and then we had cloud and mobile and now this is probably a little bit of a hockey stick, right, in the Canadian terms, in terms of, like, what's really happening in our environment. But I think caution is the right word to use, which is like we want to be hopeful.
But with everything good is also an inversion. There's also some things that are bad, or to the point being made, there's also some unintended items that happen along the way to good. And I think there, it's just being a realist about that approach in terms of how AI can help you, not just as an individual, but also within, your social circle, but also how you work and what you do for work.
I think for sure there'll be changes in the year, in the next at least two, five, 10 years for sure. I think it'll change the way we interact.
Armina: Well, I think that's a really good place to leave it.
Joe, Anthony, thank you so much for joining the show and breaking it all down for us.
Joe: Thank you. Thank you for having us.
Anthony: Anytime.
Armina: I've been speaking with Joe Martinez, Executive Vice President and Chief Information Security Officer at Scotiabank, and Anthony Belfiore, Chief Operating Officer at Wiz.
The Perspectives Podcast is made by Ryan Clarke, Ned Kelly, and me, Armina Ligaya. For a transcript of this episode, as well as other stories, videos, insights, visit our website, scotiabank.com/perspectives.
For discussions on economic growth, listen to our sister podcast: The Growth Lens by Scotia Growth Institute. You can find that wherever you get your podcasts.
We'll see you next time.
La transcription suivante a été générée à l'aide de la traduction automatique.
Armina : L'intelligence artificielle change beaucoup de choses. Mais elle transforme le paysage de la cybersécurité à une vitesse remarquable.
Cela aide les cybercriminels à automatiser les attaques, cibler plus de personnes et exploiter les faiblesses plus rapidement. Cela donne aussi aux équipes de cybersécurité des moyens plus puissants d'identifier ces faiblesses et de s'en défendre.
Joe : Donc, si Internet donnait à tous ces attaquants une portée essentiellement mondiale et que le cloud leur donnait de l'échelle, l'IA leur donne de la vitesse et de la vitesse.
Armina : C'est Joe Martinez, vice-président exécutif et chef de la sécurité chez Scotiabank.
Cette vitesse mentionnée par Joe force les équipes de cybersécurité à évoluer. Ils doivent protéger les systèmes critiques tout en suivant le rythme des nouvelles technologies et en aidant leurs organisations à l'utiliser en toute sécurité.
Alors, comment les défenseurs peuvent-ils avancer assez vite pour rester en tête?
Joe Martinez se joint à moi aux côtés d'Anthony Belfiore, chef des opérations chez Wiz – une entreprise de nuage et de sécurité récemment acquise par Google. Nous discutons de l'impact de l'IA sur la cybersécurité, des risques, des modèles de pointe et de la façon dont ils peuvent aider à mettre au jour de graves failles de sécurité, ainsi que de ce que les Canadiens peuvent faire pour se protéger.
Je suis Armina Ligaya, et voici Perspectives. Voici notre conversation.
Anthony, Joe, bienvenue à l'émission.
Joe : Eh bien, merci de nous recevoir.
Anthony : Content d'être ici.
Armina : Anthony, tu travailles dans la cybersécurité depuis longtemps. Beaucoup de choses ont changé, évidemment, mais l'évolution a certainement été rapide, particulièrement rapide au cours des dernières années avec les avancées de l'IA. Commençons donc par là pour établir un peu le contexte ici.
Alors, comment le rythme actuel du changement se compare-t-il à ce que vous auriez vu il y a peut-être dix ans, voire plus?
Anthony : Oui, je pense que la façon de voir les choses — il y a quelque chose dans ton cours d'informatique quand tu as suivi des cours à l'université qui s'appelle la loi de Moore, et en fait, c'était comme si tous les six mois quelque chose devenait obsolète.
Je pense qu'on est, genre, semaine après semaine maintenant. Je pense que le niveau et le rythme de l'évolution, de la révolution avec l'IA, changent juste la donne.
Armina : Qu'est-ce que cela signifie pour la cybersécurité? Par exemple, on entend souvent dire qu'avec l'IA, elle aide les cybercriminels à lancer des attaques plus sophistiquées, plus grandes et à plus grande échelle.
Mais en même temps, les défenseurs utilisent l'IA pour identifier et répondre à ces menaces. Alors, comment ce rythme rapide de changement modifie-t-il l'équilibre entre les deux camps des cyberdéfenseurs et des cyberattaquants?
Anthony : Utiliser l'IA, c'est une épée à double tranchant de nos jours, non? Je pense qu'il y a plusieurs facettes à ça.
Premièrement, je pense qu'il ne faut pas seulement prendre le défenseur, l'adversaire et le défenseur, mais aussi quand on considère simplement le besoin de tirer parti de cette technologie différenciante pour votre entreprise, pour cette capacité de différenciation du marché pour votre clientèle, et pour être compétitifs, parce que c'est vraiment un défi pour des gars comme moi et Joe dans les rôles que nous occupons dans ces entreprises, comment permettre à l'entreprise d'innover et d'évoluer à la vitesse de la lumière comme c'est le cas aujourd'hui?
Parce que si tu ne le fais pas, tu vas être laissé derrière. Donc tu trouves toujours ces nuances de gris et d'équilibre.
Et on essaie essentiellement de gérer les risques et les compromis. Et le vrai défi, c'est qu'une grande partie de cette discrétion et de cette capacité qu'on avait il y a seulement deux ans pour freiner et ralentir sont maintenant passées à la trappe parce que le rythme de l'innovation, comme je l'ai dit, on est dans une évolution/révolution de l'IA, a simplement enlevé notre capacité à gérer et à contenir le tsunami.
Donc, la seule option que vous avez en tant que défenseur pour combattre ces gars-là est malheureusement de combattre le feu par le feu, et de devenir plus autonome et plus doté d'IA dans vos processus d'affaires et vos capacités.
Armina : Mm-hmm. Je veux passer la parole à toi, Joe. Quel est ton point de vue là-dessus?
Joe : C'est un très bon point sur le rythme du changement, et je pense qu'on a parlé autant à notre direction qu'aux CISO canadiens, du genre qu'on ne peut pas courir un jogging de quartier quand tout le monde fait un sprint olympique. L'entreprise est à un rythme de sprint olympique. Les acteurs menaçants se dépêchent d'en profiter parce que ça augmente leur vitesse, donc ce qui prenait peut-être des heures ou des jours à un individu peut maintenant se faire en quelques minutes.
Armina : Mm-hmm.
Joe : Et nous, du côté de la sécurité, nous devons aussi utiliser ces outils pour jouer les deux côtés de la médaille, c'est-à-dire comment sécuriser l'IA pour l'entreprise afin qu'elle renforce l'expérience client et génère une forte valeur, et ensuite comment l'utiliser pour la défendre contre les menaces qui nous arrivent de tous côtés, n'est-ce pas?
Autant ce que nos entreprises ressentent, ce que nos partenaires, notre chaîne d'approvisionnement, tout ce qu'il y a entre les deux. Tout le monde fait une course. On veut juste courir à la même vitesse que celle à laquelle tout le monde arrive aussi.
Armina : Mm-hmm. Alors, quand vous courez cette course, comment réagissez-vous? Évidemment, vous dites de combattre le feu par le feu, mais quelles sont des lignes directrices plus larges ou des choses plus larges à garder en tête dans ce contexte en évolution?
Joe : Tout ce qui est ancien est nouveau à nouveau, alors on travaille fort pour trouver comment vraiment protéger nos actifs les plus critiques à la banque, comme notre rail de paiement, nos systèmes, nos plateformes de trading, etc., où on réfléchit à comment segmenter vraiment cet environnement.
Comment peut-on vraiment ériger un mur qui soit vraiment, vraiment solide autour de nous? Il faut encore que ce soit interconnecté dans la nature de l'industrie dans laquelle nous sommes maintenant, mais nous savons qu'il y a des éléments qui constituent en quelque sorte les composantes essentielles de ce qui compose une institution financière, et ces choses-là, on revient à l'ancienne, c'est-à-dire comment englober ça d'une façon qu'on contrôle finalement, c'est-à-dire qu'on sait qu'on le voit, qu'on peut le toucher, qu'on peut le sentir, et qu'on pense avoir un très fort sentiment de contrôle autour de ça.
Mais c'est un défi parce qu'il faut faire les deux, et il faut aussi innover. Et dans un environnement largement interconnecté, ça veut dire que les choses vont se toucher, ce qui mène alors à des vecteurs d'attaque. On est clairement à un point d'inflexion, donc si Internet a donné à tous ces attaquants une portée essentiellement globale et que le cloud leur a donné de l'échelle, l'IA leur donne vitesse et vitesse.
Donc, à chacun de ces points d'inflexion, on doit trouver comment continuer à répondre à toutes ces préoccupations tout en protégeant ce qui est fondamental et ce qui fait de nous une entreprise, tout en offrant la valeur que les clients attendent?
C'est un défi. C'est du travail.
Anthony : Je pense qu'un effet secondaire intéressant de ce changement et de cette vague d'innovation, c'est que ce qui est vieux est nouveau et ce qui est nouveau est vieux. Et ce que je veux dire par là, c'est que ce qui se passait depuis des années, c'est que nous passions au cloud. On pivotait nos logiciels, nos cadres de contrôle, nos capacités de surveillance pour gérer les risques cloud à grande échelle. Et maintenant, on ramène tout ça en place. Tous ces centres de données dont on se débarrassait pendant des années, dans lesquels on avait fait cet énorme investissement, tout ce CapEx, reviennent en interne. Et ce qui se passe très intéressant, c'est que certaines de ces vieilles solutions qu'on déprécie sont en fait de nouveau sous vue et doivent être réutilisées pour protéger et gérer les risques, comme les anciennes technologies dans le domaine réseau et les technologies en proxy et dans d'autres domaines, la gestion des accès qu'on n'avait tout simplement pas faite depuis des années. De l'autre côté, il y a de nouvelles solutions de pointe chaque jour avec les marchés en Inde, en Chine, en Israël et tous ces marchés de startups incroyablement disruptifs. C'est donc un équilibre entre l'ancien, comme tirer parti de l'ancienne, de nos capacités à l'ancienne et de nos reconnaissances de schémas hérités, et d'équilibrer cela avec la nouvelle innovation de pointe qui va porter ça au niveau supérieur.
Armina : Vous avez mentionné l'agentisme, et tout le monde parle de l'IA, mais l'agentique est évidemment une des innovations qui est devenue plus familiale. Vous savez, tout le monde a un agent qui fait quelque chose. Pas nécessairement tout le monde, mais plus que ce à quoi je l'aurais pensé à ce stade-ci.
Alors, avec l'IA agentique, quel nouveau risque cela crée-t-il d'un point de vue en cybersécurité? Et ensuite, comment les institutions les gèrent-elles? Je vais peut-être commencer par toi, Joe.
Joe : Donc, une grande partie du travail que les équipes essaient de déterminer ce que ces agents peuvent ou ne peuvent pas faire. Donc un peu d'autonomie. Donc, en d'autres termes, l'IA est mise à l'avantage, pas tellement indépendamment des humains, mais elle fonctionne essentiellement beaucoup plus vite.
Donc ça peut prendre des activités humaines et vraiment combler l'écart entre ce qui prenait des heures et des minutes, et maintenant ça descend à quelques secondes, et le fait avec une grande vitesse. Les acteurs malveillants peuvent maintenant automatiser. Au lieu de passer des semaines et des mois à essayer de déterminer, tester, sonder et essayer de comprendre votre environnement et où se trouvent vos faiblesses, maintenant les agents peuvent faire ça à leur place et les aider à automatiser, et maintenant cela peut s'élargir.
Au lieu de s'en prendre à une seule victime potentielle, c'est une multiplicité de victimes au total. Les entreprises corporatives peuvent aller à l'encontre de nos clients et de la population générale. Si vous avez reçu un appel de spam ou une attaque de phishing, ces choses sont automatisées. Ces agents, comme ceux que nous utilisons pour autonomiser l'entreprise, sont des éléments pour lesquels nous voulons le faire en toute sécurité, afin de savoir ce qu'ils font, et vous avez ensuite vu les reportages.
Certains commencent à s'évader de leur prison, n'est-ce pas? Ils ont donc des conséquences imprévues, où vous lui demandez de faire un travail et il le fait, mais vous ne savez peut-être pas exactement comment il a fait ce travail ou vous pourriez être surpris par l'approche qu'il a utilisée pour le faire. Encore une fois, l'agent est non discriminatoire.
Elle n'a pas, elle n'a pas de morale. On s'attendrait à ce qu'elle ait de l'éthique, mais ce n'est pas une personne humaine, et je pense qu'il faut être très prudent pour s'assurer de bien comprendre ce que ces agents font dans notre environnement. Cela permet d'atteindre le résultat que nous attendons d'obtenir. C'est essentiellement générer de la valeur pour l'entreprise et de la générer de la valeur pour les clients.
Donc c'est une danse. Ça donne du pouvoir aux acteurs menaçants. Ça donne du pouvoir à l'entreprise. Et nos clients sont aussi autonomisés, parce que tout le monde est essentiellement en train d'agentiser son environnement.
Armina : Alors, comment équilibrez-vous cela? Vous voulez tirer parti de cette innovation, tout en intégrant ce jugement humain.
Comment équilibrez-vous la technologie et le jugement humain de cette façon?
Joe : On fait un peu d'« humain dans la boucle », non? Donc il y a un changement d'étape. Mm-hmm. Ils ne courent pas seuls et ne se font pas leur propre opinion. Vous pouvez lire les articles de presse et penser qu'ils collaborent entre eux, et qu'ils créent des canaux de communication sans que les humains le sachent.
Mais je pense que le fait d'avoir les humains dans la boucle, surtout sur les processus critiques, est indispensable, non? Il faut quelqu'un qui peut vérifier et réellement valider ce que font les agents. Mais je ne pense pas que vous déplaciez les humains dans ces aspects-là, n'est-ce pas? Le discernement critique qu'un individu doit comprendre dans les limites de, par exemple, quelle est l'impératif d'affaires, quelles sont les attentes du client, quels sont les éléments réglementaires sur lesquels il faut s'assurer d'avoir une grande assurance?
Ces choses-là seront assez difficiles à réaliser pour un agent, et c'est pour ça que nous nous avons. La question est : quel est l'équilibre, n'est-ce pas? Combien automatisez-vous, et combien faites-vous encore participer les humains? Parce que vous pensez que les humains sont lents, mais il y a quand même des choses que les agents ne peuvent pas faire, et dans lesquelles les humains sont en fait assez bons.
Armina : Je veux parler des modèles de frontière. On entend de plus en plus parler de ça. Bon, commençons peut-être par un niveau de base. Pour ceux qui écoutent et ne savent peut-être pas, qu'est-ce qu'un modèle frontière?
Anthony : Quand on parle de frontière, c'est vraiment un modèle d'une certaine échelle en termes de ce qu'on appelle les poids et les paramètres, le nombre d'interrupteurs qu'on peut activer ou désactiver dans le modèle, pour ainsi dire.
C'est un terme très simpliste. Euh, la quantité de données qui a été utilisée pour l'entraîner et la quantité de calcul que vous pouvez mettre derrière. C'est donc un vrai différenciateur. Il existe beaucoup de modèles plus petits quantitativement, par exemple en termes de taille et d'échelle. Mais en termes d'efficacité, d'intelligence ou de pseudo-intelligence, selon la façon dont on regarde les choses, les modèles qui ont plus de données, plus de calcul et beaucoup plus de paramètres et de pondérations que vous pouvez appliquer peuvent faire beaucoup plus.
Donc un modèle de niveau frontière général se situe autour d'un trillion de paramètres, d'accord? Comparé à la majorité des cas d'utilisation dont vous avez besoin pour une IA et un modèle qui restent probablement là, vous avez probablement seulement besoin d'un modèle qui a 50 milliards de paramètres.
Ils ont tendance à être beaucoup plus fonctionnels et efficaces à grande échelle.
Armina : Revenons donc à la cybersécurité. Alors, que sont ces modèles de frontière clairement très sophistiqués et géants? Qu'est-ce que cela signifie pour le paysage de la cybersécurité?
Joe : Oui, donc je pense que notre façon de voir les choses, en termes de taille du modèle, d'échelle du calcul, puis du moteur de raisonnement qui le sous-tend, est importante.
Et ce que ça a fait à la sécurité, c'est qu'ils peuvent maintenant assembler des éléments qui sont un peu comme des motifs, des points d'interconnexion, qui mettent vraiment en lumière les faiblesses. C'est donc pour ça que le modèle est devenu si intéressant, parce qu'il faut un modèle très vaste pour comprendre comment les choses sont liées à chacune et comment une étape mène à une autre étape.
Et je pense que ça a été un peu le grand point de départ où maintenant tous les CISO sont sur le même bateau parce qu'on essaie de voir si on peut utiliser ces modèles de pointe? Sans parler des acteurs menaçants qui utilisent ces modèles de frontière pour trouver nos faiblesses.
Pourquoi ne pas les utiliser nous-mêmes, pour trouver nos propres faiblesses et ensuite essayer de refermer ces trous?
Armina : Bien sûr, et c'est une bonne transition vers toi, Anthony, pour parler de Wiz, et Wiz a aidé à mettre au jour de sérieuses vulnérabilités. Peut-être pouvez-vous nous expliquer un peu comment Wiz fait cela et comment, puisqu'on parle de modèles d'IA de pointe, ont aidé.
Anthony : Wiz était vraiment un produit de la révolution de l'évolution du cloud, n'est-ce pas? Et nous étions dans une position très unique parce que nous avions parfaitement synchronisé le passage au cloud et la capacité de fournir de la couleur et du contexte sur ce qui arrive à mes systèmes lorsqu'ils passent vers le cloud. Nous avons construit une solution dans le cloud qui pouvait, en 15 minutes ou moins, vous indiquer chaque asset cloud que vous aviez, à quoi tout ressemblait et chaque vulnérabilité à grande échelle.
Alors nous avons simplifié une équation pour eux, et nous avons résolu le problème en temps opportun que personne ne pouvait résoudre. Cela a mené à cette montée rapide et à l'acquisition par Google. Comment la fusion Google-Wiz aide-t-elle à aboutir à des résultats comme la détection de ces vulnérabilités. Nous avons la capacité de faire des choses que nous n'avions jamais pu faire auparavant. Et pour revenir au point de Joe, nous avons toujours été limités par l'esprit humain et notre capacité à comprendre que si je relie ces 15 points, je peux, je peux entrer.
Eh bien, on est limités. On ne peut peut-être faire ça, euh, que sur quelques niveaux. L'IA n'est pas limitée. L'IA descendra d'un millième niveau et, et, pour reprendre le point de Joe, assemblera 2 000 vulnérabilités distinctes dans une attaque, ce à quoi nous n'aurions jamais pensé. On n'a tout simplement pas pu le faire.
Ainsi, des données et une expertise cyber exceptionnelles, combinées à une IA et une infrastructure de calcul exceptionnelles à grande échelle, que Google a regroupées parmi les meilleures au monde, ont mené à un résultat phénoménal.
Armina : Et, parlons un peu plus de l'IA de la frontière et du PHP. Pouvez-vous nous expliquer cette découverte et expliquer comment l'IA de la frontière a joué un rôle?
Anthony : L'équipe de recherche de Wiz à Tel Aviv qui travaille avec l'IA de Google et quelques autres modèles d'IA, et ces gars-là sont exceptionnels dans ce qu'ils font, et au cours des sept dernières années, ils ont publié tellement de vulnérabilités de pointe basées sur leur travail et leur force, et maintenant vous les avez agrandies et accélérées avec de l'IA, avec une IA vraiment efficace.
Donc ces IA reçoivent du contexte et de la couleur à une échelle, à un niveau de profondeur qui n'était pas humainement possible, ni informatique auparavant.
Joe : Donc, quand ces équipes de recherche de pointe présentent ces éléments, nous pouvons aussi mettre en œuvre ces changements d'une manière qui aide à monter, un peu comme la marée montante qui soulève tous les bateaux. Ainsi, nous pouvons tous aider à défendre le secteur, n'est-ce pas? Donc, en tant qu'infrastructure critique pour le Canada, je pense qu'il est vraiment important de parler constamment de ces expositions et de naviguer entre ce qui fonctionne et ce qui ne fonctionne pas.
Armina : Je veux prendre un peu de recul parce qu'évidemment, on parle de...
C'est une période très complexe en cybersécurité, autant pour les entreprises que pour les consommateurs. Je voulais donc vous demander à vous deux : selon vous, quelle est la menace cybernétique numéro un à laquelle font face les consommateurs ou les entreprises en ce moment, et que peuvent-ils faire pour mieux se protéger?
Joe : Oui. Donc je peux couvrir, au moins du côté consommateur, puis peut-être Anthony, si tu veux parler du côté entreprise, puisque tu as beaucoup d'interactions avec les clients.
Donc, pour nous, je pense qu'on se concentre particulièrement sur l'impact sur la fraude aux consommateurs, le phishing, puis la capacité des gens qui veulent faire du tort, de coopter l'identité de nos clients, l'usurpation, les deepfakes qui se produisent. Vous savez, recevoir un appel téléphonique à 3 h du matin et quelqu'un qui fait semblant d'être votre petit-enfant et dit : « S'il vous plaît, aidez-moi », et ce n'est pas vraiment votre petit-enfant à cet égard, donc jusqu'à effectuer une transaction que vous jugez légitime, puis soudainement une sorte de sortie de beaucoup d'actifs financiers à un moment non autorisé.
Donc je pense que ça devient, genre, une préoccupation vraiment importante, pas seulement l'éducation qu'on veut faire en partenariat avec nos clients pour les aider à comprendre les risques et les menaces qui existent et qu'ils devraient en quelque sorte se méfier de gérer. Mais aussi leur donner dans le sens où interagir avec nous, c'est une transaction sécuritaire —
Armina : Mm-hmm.
Joe : — à cet égard. Donc, je pense qu'il y a beaucoup de travail en cours. L'aspect de la fraude est probablement l'élément le plus impactant qui arrive. Personne, personne n'est jamais à l'aise de tomber victime d'une de ces campagnes, et que soudainement quelqu'un perde son argent hypothécaire ou les frais de scolarité de ses enfants ou peu importe, ou le fonds d'études universitaires.
Ce ne sont tout simplement pas de bonnes expériences pour personne. Ils vont directement là où sont les clients, et ils utilisent ce vecteur pour accéder à ces instruments.
Armina : Donc, du point de vue du consommateur, il est vraiment important d'être informé et conscient de l'évolution du paysage et d'être prudent, eh bien, c'est probablement une hygiène de base en cybersécurité, mais aussi d'être très prudent avec ses informations et à jour sur les menaces qui évoluent.
Joe : Ça l'est. Ça l'est. Oui, il faut vraiment faire attention à donner quoi que ce soit en termes de vos identifiants, vos mots de passe, vos numéros de compte, tout ce qui est vraiment fiable. C'est quelque chose qu'il faut vraiment garder pour toi et être très prudent. Et aussi, si quelqu'un appelle ou envoie un courriel, vous devriez toujours vous demander si c'est légitime ou non.
Parce qu'à ce stade, les attaquants en profitent, surtout quand c'est une question de ponctualité où ils disent : « Vous devez répondre maintenant, sinon », il y a un ultimatum. Ce sont des choses dont vous devriez toujours vous méfier, et au bout du compte, vous pouvez toujours appeler la banque.
N'appelle pas le numéro qu'ils t'ont envoyé. Appelle le numéro que tu sais qui est légitime et comment le valider à cet égard. Donc je pense que l'éducation est vraiment, vraiment importante dans ce domaine.
Armina : Hmm. Je veux te passer la parole, Anthony.
Anthony : Ce qui m'inquiète vraiment, c'est que je sais qu'on doit s'inquiéter des acteurs malveillants et des attaquants, mais je m'inquiète vraiment que quelqu'un essaie de faire quelque chose de vraiment cool avec l'IA et de bien, et qu'il y ait une conséquence ou un effet secondaire inattendu parce que l'IA ne découvre pas ou ne comprend pas littéralement vos consignes comme vous voulez, mais en général, vous pouvez imaginer la façon dont nous utilisons l'IA dans les entreprises aujourd'hui, la complexité que cela implique de comprendre exactement comment le comportement de l'IA va évoluer, et l'inconnu là-dedans.
Mais nous avons définitivement des défis, et je pense que la seule façon de rester en avance, c'est que l'IA nous aide à gérer l'étalement urbain et l'évolution.
Armina : Et cela m'amène à ma dernière question. Puis-je vous demander de regarder un peu vers l'avenir? Je sais que c'est difficile, vu à quelle vitesse ça change, mais si vous le pouvez, en regardant vers l'avenir, que pensez-vous que les Canadiens doivent comprendre aujourd'hui sur l'IA et la cybersécurité, et qu'est-ce qui vous donne confiance que les défenseurs peuvent suivre le rythme à mesure que la technologie devient plus puissante et évolue?
Anthony : Je commencerais par dire qu'il n'y a pas d'utilisation sans conséquences de quelque chose. Il y a toujours un effet domino, alors j'essaie toujours de penser à si je choisis de prendre cette technologie et d'en faire une partie intégrante de ma vie et de l'utiliser dans mon fonctionnement quotidien, quel pourrait être un inconvénient?
Il y a beaucoup de conséquences imprévues. Tu sais, caveat emptor. Acheteur, méfie-toi. Assure-toi de bien comprendre dans quoi tu t'engages, je devrais dire ici. D'un autre côté, je pense qu'il faut aller à l'ancienne, peut-être ne pas avoir tout en ligne, peut-être ne pas utiliser toutes ces choses et avoir un plan B qui, franchement, je ne cherche pas à être un préparateur ou quoi.
Mais penser aux choses de la façon dont on les voyait dans les années 60, 70 et 80 pourrait s'appliquer à la façon dont on se protège, Dieu nous en garde, s'il y avait une panne majeure ou un impact majeur à cause de celles-ci. Je dirais que dans les deux prochaines années, nous allons réaliser l'impact, qu'il soit intentionnel ou non.
Il y a juste trop de flux. Il y a juste trop de complexité.
Armina : Mais qu'est-ce qui vous donne confiance que des défenseurs comme vous peuvent suivre le rythme de la technologie?
Anthony : Je pense qu'on va toujours être un pas en retard.
C'est plus facile d'attaquer qu'de défendre. C'est juste la nature de la bête, mais je pense qu'on sera proches, et on pourra la garder, on peut gérer le risque dans la mesure du raisonnable. Je ne sais pas si on pourra un jour se défendre en temps réel contre les IA. Je pense qu'ils auront toujours un petit avantage.
Armina : Et toi, Joe?
Joe : Oh, j'ai une vision à long terme des choses. C'est transformateur. Anthony a parfaitement raison. Ça va changer, et peut-être même transformer fondamentalement notre façon d'interagir, pas seulement avec la technologie, mais il y a, je suppose, la société dans son ensemble.
L'ère d'Internet, c'était une chose, puis on a eu le cloud et le mobile, et maintenant c'est probablement un peu comme un bâton de hockey, hein, en termes canadiens, en termes de ce qui se passe vraiment dans notre environnement. Mais je pense que « prudence » est le bon mot à utiliser, c'est-à-dire « on veut garder de l'espoir ».
Mais avec tout ce qui est bon, il y a aussi une inversion. Il y a aussi des choses qui sont mauvaises, ou, au point d'être soulignées, il y a aussi des choses inattendues qui arrivent en chemin vers le bien. Et je pense que là, c'est juste être réaliste dans cette approche en termes de comment l'IA peut t'aider, non seulement en tant qu'individu, mais aussi au sein de ton cercle social, mais aussi dans ta façon de travailler et ce que tu fais pour travailler.
Je pense sûrement qu'il y aura des changements au cours de l'année, dans au moins deux, cinq, dix ans, c'est sûr. Je pense que ça va changer notre façon d'interagir.
Armina : Eh bien, je pense que c'est vraiment un bon endroit pour laisser ça.
Joe, Anthony, merci beaucoup d'avoir participé à l'émission et d'avoir tout expliqué pour nous.
Joe : Merci. Merci de nous accueillir.
Anthony : N'importe quand.
Armina : J'ai parlé avec Joe Martinez, vice-président exécutif et directeur de la sécurité informatique chez Scotiabank, ainsi qu'avec Anthony Belfiore, directeur des opérations chez Wiz.
Le podcast Perspectives est réalisé par Ryan Clarke, Ned Kelly et moi, Armina Ligaya. Pour une transcription de cet épisode, ainsi que d'autres histoires, vidéos et analyses, visitez notre site web, scotiabank.com/perspectives.
Pour discuter de la croissance économique, écoutez notre balado frère : The Growth Lens du Scotia Growth Institute. Vous pouvez le trouver partout où vous écoutez vos balados.
On se voit la prochaine fois.