Perspectives podcast: Beyond generative AI — How agentic AI is levelling up the technology

Armina Ligaya: Artificial intelligence has gone from a niche technology to an everyday tool. It can help write emails, summarize meetings, generate code, and answer questions in seconds. But the next chapter of AI may be less about generating information and more about taking action.

Ty Panagoplos: Agentic to us is an agent that is fully automated and can make decisions on its own. Generative AI is where you say, hey, I need an email. Can you write this email for me? Can you review this for me?

AL: Agentic AI is one of the biggest trends shaping the future of technology. It is designed to reason through problems, make decisions, and carry out tasks with increasingly less human involvement. The potential is enormous. New AI tools are helping employees become more productive, speeding up software development and opening the door to entirely new ways of doing business. But with that opportunity comes big questions. How much autonomy should AI have? What risks need to be managed? And how can organizations embrace the technology while maintaining trust, security and control?

TP: Agentic started off as a trend. I think now you're going to see it get into a mainstream, where you will start to see trust in the autonomous agents. Everyone is working to get to a point where you can trust them.

AL: That's Ty Panagoplos, Scotiabank’s Executive Vice President and Chief Technology Officer, who joins us to discuss AI and what the future of AI could mean for banks, businesses and everyday life.

TP: This is a massively transitional time for technology and what a great time to be helping to drive something like this.

AL: I'm Armina Ligaya and this is Perspectives. Now here's our conversation. 

Ty, welcome to the show.

TP: Thank you very much.

AL: Before we get into all things AI, tell us a bit about your background. How long have you been in this space? In tech?

TP: I hate to date myself, but I've been in technology and financial services for 30 years, starting early at Fidelity Investments in Boston. Realizing that New York was the hub of everything, I went to J.P. Morgan. I was there for ten years to watch the evolution of how technology really transforms a bank. Worked in Japan. I've worked in London. I've worked in, for the Canadians out there, London, England, not London, Ontario, Colorado, South Africa. Spent ten years at another bank, to remain unnamed here in Canada, and then Santander, so had a flavour of the Latin America world and how that relates to banking as well as the Canadian world. I feel like it's a great fit to be here now with Scotiabank.

AL: And to see how things have changed quite a bit over that time. A lot can change over that time. But even in the last year or so, a lot has clearly changed. It's particularly rapid with AI. To me it feels like AI is everywhere suddenly. What was it that changed in the last year or so that made it such a mainstream conversation?

TP: It is crazy how fast it's come about. The first real rapid adoption in the home world of AI was with ChatGPT right around 2022. At which point every bank that I know that I worked with shut it down as much as they possibly could. They relegated it to lab spaces. They made it very clear that it wasn't to be used in the bank. And wanted to take a very slow and methodical approach while they were doing that. The world kept moving. It kept growing to the point where they all of a sudden realized that the benefits of it outweighed taking their time to lock it down. And it just started to show up everywhere. A lot of excitement got garnered around it. And now you see it as the forefront of what all banks are talking about in terms of how their tech strategy is going to be transformed..

AL: AI has been around for a while, but I'm wondering, in your view, is it just that now every person could have it at their fingertips so easily, so quickly, that made it increase that comfort level? What was it that turned the tide?

TP: Yeah. AI started off really more as machine learning. And for machine learning you had to have a little bit of technology knowledge. You had to know how to write Python. You had to know what you were doing to get it running. And ChatGPT really brought it to your fingertips. Anyone, regardless of tech skill, could type a question and answers were coming at a level of detail, knowledge and information that they hadn't seen before. I think as soon as the mainstream started to understand how to use it, that's how you got it to really explode.

AL: What, in your view, is the big opportunity for AI in banking, but also broadly?

TP: Like anything else with new technology, there's pros and cons, right? I think from the pros, certainly it's helping for the daily tasks, things that you don't want to do on a regular basis. Where busy work is involved, it can do it for you. And I think we've seen that as the smaller use case. In the larger use case, the amount of progress that it's enabling is incredible. The average person can sit at home and write complex capabilities, applications that they never could have even imagined writing before, with a minimal skill set. Now that goes to a point. I think that when you really get to the next level and you're looking at commercial grade or bulletproof capabilities, then you play the 80/20 rule. The first 80% of it builds are just fine. But if you really don't understand from an engineering perspective what's going on under the hood, I think that's where it begins to fall apart. So really where I see the value is my strong engineers, your capable technologists who really understand the space, they'll be able to deliver like 20 people. So instead of just them on their own, it'll feel like an army. For firms that are transitioning to be more engineering or to think about building a little bit more, this is going to enable a smaller group of users to be significantly more powerful.

AL: How have you seen the use of AI evolve in banking over the years?

TP: It's interesting. When they first got into it, there was a lot of thinking around, yeah, this is going to save us all this money. This is going to produce X, Y and Z. And I think that I haven't seen it materially show up yet. That doesn't mean it's not going to. I still think that they're learning how to adapt it and then they're learning how to change the way that things function to take advantage of it. However, in things like basic workflow, basic process, it works really well. In development and engineering, it works really well. And I hear stories even inside of Scotiabank, of people that have used Scotia Intelligence, that have already been able to benefit and reduce the amount of work and effort that they're putting into things. And then the next stage of it is, okay, how does that translate into an actual savings? I do believe it will. I can give you another example of a space where I have seen banks use it quite frequently is in the legal space. Contracts are complex, they're difficult, they're time consuming. AI gets through it really quickly. AI is really good at pointing out issues and errors, and I've seen adoption of it at some of the other banks that I've worked with previously, to a point where it's definitely cut down on costs. They're cutting down on costs going to external counsel, and then obviously for the assisted stuff. So what we use today, with Scotia Intelligence, is the ability to do small tasks. For me, I built myself a little agent that tells me what calendar. If I see things in my calendar, do I need to go to this meeting? And it can go through my emails, my notes, everything and say, oh, hey, your boss actually told you to meet with them on this date. You postponed this twice, so you should probably go to that today versus, oh, this just came in off a cold call. And I've seen a lot of examples of where people have used this to make themselves way more productive.

AL: I just want to go back to a point, just in case our listeners may not be familiar, what is Scotia Intelligence?

TP: Oh, that's a great question. Scotia Intelligence is our internally branded marketing for our entire AI platform. Today it consists of three things. One that we call Navigator, which is our assisted AI. That's what sits at your desktop today. That's what we've rolled out to all the users of Scotiabank, to be able to assist with daily tasks, with documentation, with helping them to write things and really a very powerful tool that goes through all of our desktop capabilities. Then we have a platform called Harbour, and that is our centralized data platform. And that is really our focus to get the data right, because when you're doing AI, it still goes by garbage in, garbage out. And we need to get the data right as we're going in. This platform is going to give us the right data and the right way across the entire bank, which will make our AI tools much more powerful. And the third platform we've branded as Lighthouse. What that is, is our internal AI delivery platform that's going to allow our developers and engineers to build agents and access LLMs in a very safe and secure way, because part of that is our control plane. And our control plane is very key to being able to do AI, because without it, we're not safe and we're not secure. This allows developers to feel comfortable that they can build what they want to build, but the guardrails will be put in around them and they won't have to be cognizant of that. And our CISOs and our security organizations control what's in the guardrails to make sure that anything that's being delivered with agents is safe and secure for the bank.

AL: I want to come back to the guardrails and the risks as well. But you're talking about agents, and that's something I'd like to dig into a little bit more, because we're talking about the evolution of AI and banking. The thing we're hearing a lot more in banking and otherwise is agentic AI. Can we start there to just explain to those who are listening what is agentic AI? In simple terms, how does that differ from generative AI?

TP: I think it's interesting because I think agentic was a term that started a while ago, and it gets used in different ways all the time. I can tell you how we look at it here at Scotiabank. Agentic to us is an agent that is fully automated and can make decisions on its own, which is something that today we do not allow, because we don't have the guardrails in place. And we're not ready to trust that. Now, an agent is something that can execute a prompt over and over again. If I have a prompt that I like, I can place it into an agent and I can ask that agent to run. Generally, anything that needs to happen, I get involved. We call that human in the loop. When there's a human in the loop, I consider that more of an agent and a control agent because it can't work on its own. And I look at agentic as something that does work on its own. Generative AI, that's where you say, hey, I need an email. Can you write this email for me? Can you review this for me? And that's more of the generative side. And then even when you get into the engineering and the development writing code, you have AI that can generate code and can help make things go faster.

AL: So agentic, true agentic is completely autonomous. It'll just do its own thing.

TP: And there's a definition right there. Different companies have different definitions. But when we refer to it at Scotiabank, we're referring to fully autonomous.

AL: Are there levels of agency for some of the AI deployed here? But there's human in the loop. So that's how you define it.

TP: Correct. When there's human in the loop, then it can't take the final action without a human looking at it and saying, okay, I agree or disagree with this approach. And that tends to be a really good safety check to make sure it's not doing something it's not supposed to do. Fully automated is going to take us a little bit of time until we can get to that point.

AL: And this has definitely become mainstream because I think even earlier you were talking about how you have an agent, or I know it comes up and you're like, oh, I have an agent that does the simple tasks, but it's the next level of how we can deploy AI to make things a lot easier. I wanted to delve into a related topic because Scotiabank recently announced joining up with companies to launch an AI consortium, which also has a focus on agentic AI. Can you break that down for us in this context? What is the consortium? How does that work?

TP: 100%. I'm going to go back to Lighthouse, which is the platform we talked about, and the concept of needing a control plane in thinking about this. AI is a new and emerging space. Everyone is trying to tackle it all at the same time. There's a whole bunch of different technology out there. It changes on a regular basis. This opportunity came about for us to partner with large players and two other major business lines, telco and insurance. And we thought this was a great opportunity for the three of us as founding partners to build this consortium where any of the members of the consortium can leverage the same technology. And we were able to get access to an advanced control plane well above what it would have taken us to do it ourselves. By partnering with these other companies, it gives us the ability to give our perspective into it, to get their perspectives into it and to really build a solid capability there. Because this is a difficult space where these are regulated entities in the regulatory world. There are complexities to ensuring safety and security. This is going to give us a huge jump in terms of our ability to use it. There's another component of it called token exchange, which is going to give us the buying power of the three large firms and any other members that eventually join, which will help us with token economics. This is going to give us the ability to not only control it, but to have a much more intelligent way of how we can leverage tokens to keep our costs in line with what we need from the AI.

AL: And just explain, for those who might not know, a token is a sort of item currency for each usage of AI.

TP: Essentially, I like to say that the AI companies have figured out how to bring Las Vegas here. It's this made-up currency that eventually equates to a dollar. But really, it is what gets spent when you're using AI. If you're using more efficient, lighter models, in theory, they're using less power and less compute, so they cost a lot less. If you're using some of these heavier, deeper learning models, they're using more power, they're using more compute, so in theory they cost more. And that's really the token is the way to measure that.

AL: So the consortium really helps large organizations such as Scotiabank to deal with these challenges that come with trying to roll out AI as fast as it's been going.

TP: Exactly. And then, look, we have two other partners in other industries that we can talk to and get their thoughts and ideas and see how they're dealing with it. And we all begin to deal with it as one. I think that's far more powerful, especially today, where everything's new. This is our way to stay on top of it, and in some ways allows us to futureproof our designs.

AL: Let's talk a little bit more about another element with AI, which is risks. We're talking about guardrails and risks. What are some of the risks as AI advances more quickly? How do we mitigate those?

TP: Part of the way we're mitigating them today is we're not allowing anything that we don't understand or we don't know to happen. And I think that that's the right approach when it comes to getting to the more advanced agent worlds, there's what's called poisoning, where external providers put data out there that teaches the agent the wrong thing. It takes that information. It does things it's not supposed to do. Again, by disabling automation, that doesn't happen. When you have automation in place, you've got to make sure you have the protections. You need to have a way to control the agent and monitor the agent and look if it's doing something it's not supposed to do. You've given an agent a set of tasks you want it to do. If all of a sudden it starts to do anything outside of what we told it to do, we need an ability to stop that agent immediately. We call that a kill switch. That is part of our design. These are the things that we look to do to mitigate. Plus, if it all of a sudden is asking a question it's not supposed to, it hasn't asked before, or if it's doing any activity it hasn't done before, there's the opportunity to stop it and see why. There are some cases where that may make sense, given what it's supposed to do, and the others that don’t. But we will err on the side of over-caution, and make sure that we're controlling it. Plus, there's the kind of perimeter monitoring that we're going to do to make sure that they don't get in or outside of our walls. The way that we're securing the environment, we're constantly evolving it, and we've built an environment that's flexible enough so that we can continually evolve it.

AL: Another element of AI that people are nervous about is privacy, trust, scams. You're saying misinformation poisoning. That's a new term I hadn't heard about. That's interesting. What of these concerns are ones we should take seriously? And what are some that are maybe overblown?

TP: Look, I think a lot of these concerns we need to take seriously. The fear that AI will take over people's jobs: like any advancement that we've seen in technology, I think it'll just change people's jobs. It'll just be at a higher level. And I think more could get delivered. If you think about the other risks that are involved in it, you've got hallucination, which can generate bad information. We've seen some companies out there that produce reports that they filed formally that ended up having wrong information in them. The human is always going to be required to mitigate that risk. To your point, the phishing schemes in the early days where you put up false websites, it was quite obvious that it was a bad website, but now it'd be really easy to do that. We just have to keep upping our game as the bad actors up their game. But we need to make sure that we're able to defend ourselves. We're able to block some of these things, but do it in a safe way.

AL: Let's shift a bit more to a broader look at AI. It's a fast-evolving space. What else is happening out there on the AI front that we should be talking about now? What's the next wave?

TP: I'm not sure there's a bunch of new trends that are out there, but I would see the advancement of the ones that have started. Certainly the usage of the Claudes and the Codexes and the various tools have increased dramatically. We're beginning to see a shift in who can actually deliver code. You're seeing every vendor out there starting to put AI somewhere in their platform just so they can say they have it. You're seeing a shift of companies that are now building things that they never would have built before, which is actually threatening some of the ecosystem that has previously been out there that was fairly embedded. I think that trend you're going to see more of, and I'm starting to get the sense of it in talking to colleagues at other banks. They're getting bolder in terms of what they think they can do internally versus externally. I think you'll see a bit of that. I think the next big thing is Agentic started off as a trend. I think now you're going to see it get into a mainstream where you will start to see trust in the autonomous agents. Everyone is working to get to a point where you can trust them because that would be quite powerful. We're seeing that. Then there's the frontier models, which poses a whole different type of challenge, which is a trend in how attackers can think about ways to attack at a speed and a rate that we've not seen before.

AL: And then how do you prepare for things like frontier models? How do you prepare for that as well?

TP: From the frontier model space, we've been involved very deeply in making sure that our bank is safe and secure from the model. We stay in close touch with the companies that are out there. And we have a program that is well-established, where we're making sure that we're following the protocols of the banks. We've partnered with our colleagues to find out what's going on. And we don't share secrets, but we certainly share enough to help each other be protected there. I think we're doing everything to stay on top of it. As I said before, it is key to understand what's going on. We can't just sit back and say, I'll wait for the next thing, and we've got to stay on top of everything that's coming out. There'll be the next frontier model. There'll be the next problem. I wouldn't even tie it to a single model. We just have to change our approach and our defenses start to become offenses as we look at how we're constantly monitoring our environments, constantly proactively looking for issues and capabilities and challenging ourselves to think about where other areas could be risky. And the other thing that's really useful is there's a lot of information out there now, so it's easier to understand where things are going wrong. And as soon as we catch that, we immediately look to remediate inside of our environment in case there's a potential similar vulnerability.

AL: My last question is, looking ahead three or five years, what AI shift do you think is going to have the biggest impact on everyday people?

TP: I actually think it's going to be the fully autonomous agent. I think that's going to be a big change. Again, it's also how I see it based on what I see today. But in this world, it is changing so rapidly that predicting five years out, I can't even imagine what to predict for five years out. I think the most important thing is to stay flexible. To be prepared for what's coming five years out, make sure that you don't push yourself into an area, a platform, a capability that you can't easily transition from because we don't know what will be out there. I think we've seen, and you asked me earlier on why is it happening so rapidly, I think AI begets more AI. And we are seeing that it is partially the speed of the AI that's making the benefit of AI faster. Companies are leapfrogging each other because they're able to leverage their own technology to figure out a better way to do it than the other guy. And then the other guy does the same thing. For us, it's really about staying massively flexible so that we can always leverage best-in capability. But yeah, to your question, I think that when agents are doing things, that's going to change things. Now, personal life, we're starting to see the emergence of robots. Me personally, I don't want a robot in my house with cameras and the ability to do anything. I'm not sure I'll jump on that trend. But you see robotic cars. People have driverless cars now much more frequently. I've tripped over the robot deliveries. I do think we'll see a lot more autonomous things happening. And it's going to be an interesting time. And for me personally, it's part of why I'm so excited to be here. This is a massively transitional time for technology. And what a great time to be helping to drive something like this.

AL: I think that's a really good place to leave it. Thank you so much for coming on the show and breaking it all down for us.

TP: Thank you very much for having me.

AL: I was speaking with Ty Panagoplos, Scotiabank's Executive Vice President and Chief Technology Officer. The Perspectives podcast is made by Ryan Clarke, Natalie Nanowski, Ned Kelly and me, Armina Ligaya. For a transcript of this episode, as well as other stories, videos, insights, and thought leadership, visit our website, scotiabank.com/perspectives. We'll see you next time.

La transcription suivante a été générée à l'aide de la traduction automatique.
 

Armina Ligaya : L'intelligence artificielle est passée d'une technologie de niche à un outil quotidien. Il peut aider à rédiger des courriels, à résumer des réunions, à générer du code et à répondre aux questions en quelques secondes. Mais le prochain chapitre de l'IA pourrait moins porter sur la génération d'information que sur la prise d'action.

Ty Panagoplos : Pour nous, Agentic est un agent entièrement automatisé qui peut prendre des décisions par lui-même. L'IA générative, c'est là où tu dis, hé, j'ai besoin d'un courriel. Peux-tu écrire ce courriel pour moi? Pouvez-vous me faire une révision?

AL : L'IA agente est l'une des plus grandes tendances qui façonnent l'avenir de la technologie. Il est conçu pour raisonner à travers les problèmes, prendre des décisions et accomplir des tâches avec une implication humaine de moins en plus. Le potentiel est énorme. De nouveaux outils d'IA aident les employés à devenir plus productifs, accélérant le développement logiciel et ouvrant la porte à de toutes nouvelles façons de faire des affaires. Mais cette opportunité vient avec de grandes questions. Quelle autonomie l'IA devrait-elle avoir? Quels risques doivent être gérés? Et comment les organisations peuvent-elles adopter cette technologie tout en maintenant la confiance, la sécurité et le contrôle?

TP : L'agent a commencé comme une tendance. Je pense que maintenant vous allez voir cela entrer dans le courant dominant, où vous commencerez à voir une confiance envers les agents autonomes. Tout le monde travaille à atteindre un point où tu peux leur faire confiance.

AL : Voici Ty Panagoplos, vice-président exécutif et chef de la direction technologique de Scotiabank, qui se joint à nous pour discuter de l'IA et de ce que l'avenir de l'IA pourrait signifier pour les banques, les entreprises et la vie quotidienne.

TP : C'est une période de transition majeure pour la technologie et quel moment formidable pour aider à piloter quelque chose comme celui-ci.

AL : Je suis Armina Ligaya et voici Perspectives. Voici maintenant notre conversation. 

Ty, bienvenue à l'émission.

TP : Merci beaucoup.

AL : Avant d'entrer dans tout ce qui touche à l'IA, parlez-nous un peu de votre parcours. Depuis combien de temps êtes-vous dans ce domaine? Dans la tech?

TP : Je déteste sortir avec moi-même, mais je travaille dans la technologie et les services financiers depuis 30 ans, en commençant tôt chez Fidelity Investments à Boston. Réalisant que New York était le centre de tout, je suis allé voir J.P. Morgan. J'y suis resté dix ans pour observer l'évolution de la façon dont la technologie transforme vraiment une banque. J'ai travaillé au Japon. J'ai travaillé à Londres. J'ai travaillé pour les Canadiens là-bas, à Londres, en Angleterre, pas à Londres, en Ontario, au Colorado, en Afrique du Sud. J'ai passé dix ans dans une autre banque, pour rester anonyme ici au Canada, puis à Santander, donc j'avais un aperçu du monde latino-américain et de son lien avec la banque ainsi que le monde canadien. Je trouve que c'est un excellent choix d'être ici maintenant avec Scotiabank.

AL : Et voir comment les choses ont beaucoup changé pendant tout ce temps. Beaucoup de choses peuvent changer pendant ce temps. Mais même dans la dernière année environ, beaucoup de choses ont clairement changé. C'est particulièrement rapide avec l'IA. Pour moi, j'ai l'impression que l'IA est soudainement partout. Qu'est-ce qui a changé au cours de la dernière année ou à peu près qui a rendu cette conversation aussi grand public?

TP : C'est fou à quelle vitesse ça s'est produit. La première véritable adoption rapide de l'IA dans le monde d'origine a eu lieu avec ChatGPT vers 2022. À ce moment-là, toutes les banques que je connais avec lesquelles j'ai travaillé ont fermé autant qu'elles le pouvaient. Ils l'ont reléguée aux laboratoires. Ils ont été très clairs : il ne devait pas être utilisé à la banque. Et ils voulaient adopter une approche très lente et méthodique pendant qu'ils faisaient ça. Le monde continuait d'avancer. Ça n'a cessé de grandir jusqu'à ce qu'ils réalisent soudainement que les avantages l'emportaient sur le fait de prendre leur temps pour le verrouiller. Et ça a commencé à apparaître partout. Beaucoup d'excitation s'est installée autour de ça. Et maintenant, vous voyez cela comme le cœur de ce dont toutes les banques parlent en ce qui concerne la façon dont leur stratégie technologique va être transformée...

AL : L'IA existe depuis un certain temps, mais selon vous, est-ce simplement que maintenant chaque personne peut l'avoir à portée de main si facilement, si rapidement, que cela augmente ce niveau de confort? Qu'est-ce qui a changé la tendance?

TP : Oui. L'IA a commencé davantage comme de l'apprentissage automatique. Et pour l'apprentissage automatique, il fallait avoir un peu de connaissances technologiques. Il fallait savoir écrire en Python. Il fallait savoir ce qu'on faisait pour le faire fonctionner. Et ChatGPT l'a vraiment mise au bout des doigts. N'importe qui, peu importe son niveau technique, pouvait taper une question et les réponses venaient avec un niveau de détail, de connaissances et d'informations qu'il n'avait jamais vu auparavant. Je pense qu'aussitôt que le grand public a commencé à comprendre comment l'utiliser, c'est comme ça que ça a vraiment explosé.

AL : Selon vous, quelle est la grande opportunité pour l'IA dans la banque, mais aussi au sens large?

TP : Comme pour toute nouvelle technologie, il y a des avantages et des inconvénients, non? Je pense que d'après les pros, ça aide certainement pour les tâches quotidiennes, des choses qu'on ne veut pas faire régulièrement. Quand il y a du travail inutile, ça peut le faire pour toi. Et je pense que nous avons vu cela comme un cas d'usage plus modeste. Dans un cas d'utilisation plus large, la quantité de progrès qu'elle permet est incroyable. La personne moyenne peut rester à la maison et écrire des compétences complexes, des applications qu'elle n'aurait jamais pu imaginer écrire auparavant, avec un ensemble minimal de compétences. Là, ça mène à un point. Je pense que quand on passe vraiment au niveau supérieur et qu'on parle de capacités de qualité commerciale ou à l'épreuve des balles, on joue la règle 80/20. Les 80% des premiers builds fonctionnent très bien. Mais si vous ne comprenez vraiment pas du point de vue de l'ingénierie ce qui se passe sous le capot, je pense que c'est là que tout commence à s'effondrer. Donc, là où je vois vraiment la valeur, c'est que mes ingénieurs solides, vos technologues compétents qui comprennent vraiment le domaine, ils pourront livrer environ 20 personnes. Donc, au lieu d'être juste eux seuls, ça va ressembler à une armée. Pour les entreprises qui évoluent vers l'ingénierie ou qui envisagent de construire un peu plus, cela permettra à un groupe plus restreint d'utilisateurs d'être beaucoup plus puissant.

AL : Comment avez-vous vu l'évolution de l'utilisation de l'IA dans le secteur bancaire au fil des ans?

TP : C'est intéressant. Quand ils se sont lancés, il y a eu beaucoup de réflexion, oui, ça allait nous faire économiser tout cet argent. Cela va produire X, Y et Z. Et je pense que je ne l'ai pas encore vu apparaître de façon concrète. Ça ne veut pas dire que ça ne va pas arriver. Je pense encore qu'ils apprennent à l'adapter et ensuite à changer la façon dont les choses fonctionnent pour en tirer parti. Cependant, dans des choses comme le flux de travail de base, le processus de base, ça fonctionne très bien. En développement et en ingénierie, ça fonctionne vraiment bien. Et j'entends des histoires même à l'intérieur de Scotiabank, de gens qui ont utilisé Scotia Intelligence, qui ont déjà pu bénéficier et réduire la quantité de travail et d'efforts qu'ils y mettent. Et puis l'étape suivante, c'est : ok, comment cela se traduit-il en économies réelles? Je crois que oui. Je peux vous donner un autre exemple d'un domaine où j'ai vu des banques l'utiliser assez fréquemment, c'est dans le domaine juridique. Les contrats sont complexes, difficiles, prennent du temps. L'IA passe à travers ça très rapidement. L'IA est vraiment bonne pour signaler les problèmes et les erreurs, et j'ai vu son adoption dans certaines autres banques avec lesquelles j'ai travaillé auparavant, à un point tel qu'elle a clairement réduit les coûts. Ils réduisent les coûts en allant à l'avocat externe, et évidemment pour les services assistés. Ce que nous utilisons aujourd'hui, avec Scotia Intelligence, c'est la capacité d'accomplir de petites tâches. Pour ma part, je me suis construit un petit agent qui me dit quel calendrier. Si je vois des choses dans mon calendrier, est-ce que je dois aller à cette réunion? Et ça peut passer en revue mes courriels, mes notes, tout et dire, oh, ton patron t'a en fait dit de le rencontrer à ce jour-là. Tu as reporté ça deux fois, alors tu devrais probablement y aller aujourd'hui au lieu de, oh, ça vient d'arriver d'un appel à froid. Et j'ai vu beaucoup d'exemples où des gens ont utilisé ça pour devenir beaucoup plus productifs.

AL : Je veux juste revenir sur un point, au cas où nos auditeurs ne seraient pas familiers, qu'est-ce que Scotia Intelligence?

TP : Oh, c'est une excellente question. Scotia Intelligence est notre marketing interne de marque pour l'ensemble de notre plateforme d'IA. Aujourd'hui, il se compose de trois choses. Un que nous appelons Navigator, qui est notre IA assistée. C'est ce qui se trouve sur votre bureau aujourd'hui. C'est ce que nous avons déployé à tous les utilisateurs de Scotiabank, pour pouvoir les aider avec les tâches quotidiennes, la documentation, pour les aider à écrire des choses et vraiment un outil très puissant qui englobe toutes nos capacités de bureau. Ensuite, nous avons une plateforme appelée Harbour, qui est notre plateforme de données centralisée. Et c'est vraiment notre objectif de bien obtenir les données, parce que quand on fait de l'IA, ça passe toujours par des déchets qui entrent, des déchets qui sortent. Et nous devons obtenir les données correctes dès le départ. Cette plateforme va nous fournir les bonnes données et la bonne façon à travers toute la banque, ce qui rendra nos outils d'IA beaucoup plus puissants. Et la troisième plateforme, nous l'avons baptisée Lighthouse. Ce que c'est, c'est notre plateforme interne de livraison d'IA qui va permettre à nos développeurs et ingénieurs de créer des agents et d'accéder aux LLM de façon très sûre et sécurisée, car une partie de cela fait partie de notre plan de contrôle. Et notre plan de contrôle est très clé pour pouvoir faire de l'IA, parce que sans lui, nous ne sommes pas en sécurité ni en sécurité. Cela permet aux développeurs de se sentir à l'aise qu'ils peuvent construire ce qu'ils veulent, mais les garde-fous seront mis autour d'eux et ils n'auront pas à en être conscient. Et nos CISO et nos organisations de sécurité contrôlent ce qui se trouve dans les garde-fous pour s'assurer que tout ce qui est livré avec des agents est sûr et sécurisé pour la banque.

AL : Je veux aussi revenir aux garde-fous et aux risques. Mais vous parlez d'agents, et c'est quelque chose que j'aimerais approfondir un peu plus, car nous parlons de l'évolution de l'IA et de la banque. Ce qu'on entend beaucoup plus en banque et ailleurs, c'est l'IA agentique. Peut-on commencer par là pour expliquer à ceux qui écoutent ce qu'est l'IA agentique? En termes simples, en quoi cela diffère-t-il de l'IA générative?

TP : Je trouve ça intéressant parce que je pense que « agent » est un terme qui a commencé il y a un moment, et il est utilisé de différentes façons tout le temps. Je peux vous dire comment on voit ça ici à Scotiabank. Pour nous, Agentic est un agent entièrement automatisé qui peut prendre des décisions par lui-même, ce que nous n'autorisons pas aujourd'hui, car nous n'avons pas les garde-fous en place. Et on n'est pas prêts à faire confiance à ça. Maintenant, un agent est quelque chose qui peut exécuter une invite encore et encore. Si j'ai un prompt qui me plaît, je peux le placer dans un agent et je peux lui demander de se lancer. En général, tout ce qui doit arriver, je m'implique. On appelle ça un humain dans la boucle. Quand il y a un humain dans la boucle, je le considère plus comme un agent et un agent de contrôle parce que ça ne peut pas fonctionner seul. Et je considère l'agent comme quelque chose qui fonctionne de lui-même. L'IA générative, c'est là que tu dis, hé, j'ai besoin d'un courriel. Peux-tu écrire ce courriel pour moi? Pouvez-vous me faire une révision? Et c'est plutôt le côté génératif. Et même quand tu entres dans l'ingénierie et le développement en écriture de code, tu as une IA capable de générer du code et d'aider à accélérer les choses.

AL : Donc, agentique, le vrai agentique est complètement autonome. Ça va juste faire son truc.

TP : Et il y a une définition juste là. Différentes entreprises ont des définitions différentes. Mais quand on en parle à Scotiabank, on parle de totalement autonome.

AL : Y a-t-il des niveaux d'agence pour certaines IA déployées ici? Mais il y a l'humain dans la boucle. C'est comme ça qu'on le définit.

TP : Exact. Quand il y a un humain dans la boucle, il ne peut pas faire l'action finale sans qu'un humain le regarde et dise, d'accord, je suis d'accord ou pas avec cette approche. Et c'est souvent un très bon contrôle de sécurité pour s'assurer qu'il ne fait pas quelque chose qu'il ne devrait pas faire. Une automatisation complète va nous prendre un peu de temps avant d'en arriver là.

AL : Et c'est définitivement devenu grand public parce que je pense que même plus tôt tu parlais du fait que tu as un agent, ou je sais que ça arrive et tu te dis, oh, j'ai un agent qui fait les tâches simples, mais c'est le niveau suivant de comment déployer l'IA pour rendre les choses beaucoup plus faciles. Je voulais aborder un sujet connexe parce que Scotiabank a récemment annoncé sa collaboration avec des entreprises pour lancer un consortium d'IA, qui se concentre aussi sur l'IA agentique. Pouvez-vous nous expliquer cela dans ce contexte? Qu'est-ce que le consortium? Comment ça fonctionne?

TP : 100%. Je vais revenir à Lighthouse, qui est la plateforme dont nous avons parlé, et au concept d'avoir besoin d'un avion de contrôle en y réfléchissant. L'IA est un domaine nouveau et émergent. Tout le monde essaie de tout gérer en même temps. Il existe toute une série de technologies différentes. Ça change régulièrement. Cette opportunité s'est présentée pour nous de nous associer à de grands acteurs et à deux autres grandes lignes d'affaires, les télécoms et l'assurance. Et nous avons pensé que c'était une excellente occasion pour nous trois, en tant que partenaires fondateurs, de bâtir ce consortium où n'importe lequel des membres du consortium peut exploiter la même technologie. Et nous avons pu accéder à un avion de contrôle avancé bien au-delà de ce qu'il nous aurait fallu pour le faire nous-mêmes. En collaborant avec ces autres entreprises, cela nous donne la capacité d'apporter notre perspective, d'intégrer leurs points de vue et de vraiment bâtir une solide capacité là-bas. Parce que c'est un domaine difficile où il s'agit d'entités réglementées dans le monde réglementaire. Il y a des complexités pour assurer la sécurité et la sûreté. Cela va nous donner un énorme avantage dans notre capacité à l'utiliser. Il y a un autre volet appelé échange de jetons, qui va nous donner le pouvoir d'achat des trois grandes entreprises et de tout autre membre qui finira par rejoindre, ce qui nous aidera en économie des jetons. Cela va nous donner la capacité non seulement de le contrôler, mais aussi d'avoir une façon beaucoup plus intelligente d'exploiter les jetons pour maintenir nos coûts en adéquation avec ce dont l'IA a besoin.

AL : Et expliquez, pour ceux qui ne le savent pas, un jeton est une sorte de monnaie d'objet pour chaque utilisation de l'IA.

TP : Essentiellement, j'aime dire que les entreprises d'IA ont trouvé comment amener Las Vegas ici. C'est cette monnaie inventée qui finit par équivaloir à un dollar. Mais en réalité, c'est ce qui est dépensé quand on utilise l'IA. Si vous utilisez des modèles plus efficaces et plus légers, en théorie, ils consomment moins d'énergie et moins de calcul, donc ils coûtent beaucoup moins cher. Si vous utilisez certains de ces modèles d'apprentissage plus lourds et plus profonds, ils consomment plus d'énergie, ils utilisent plus de calcul, donc en théorie ils coûtent plus cher. Et c'est vraiment le jeton, c'est la façon de mesurer ça.

AL : Le consortium aide vraiment de grandes organisations comme Scotiabank à relever les défis liés à la tentative de déployer l'IA aussi vite qu'elle l'a fait.

TP : Exactement. Et puis, regardez, nous avons deux autres partenaires dans d'autres industries avec qui nous pouvons parler, recueillir leurs idées et voir comment ils gèrent la situation. Et nous commençons tous à y faire face d'un seul côté. Je pense que c'est bien plus puissant, surtout aujourd'hui, où tout est nouveau. C'est notre façon de rester à jour, et d'une certaine façon, cela nous permet de sécuriser nos conceptions pour l'avenir.

AL : Parlons un peu plus d'un autre aspect de l'IA : les risques. On parle de garde-fous et de risques. Quels sont certains des risques à mesure que l'IA progresse plus rapidement? Comment pouvons-nous atténuer ces problèmes?

TP : Une partie de la façon dont nous les atténuons aujourd'hui, c'est que nous ne laissons rien que nous ne comprenons pas ou que nous ignorons arriver. Et je pense que c'est la bonne approche quand il s'agit d'accéder aux mondes plus avancés des agents, il y a ce qu'on appelle l'empoisonnement, où des fournisseurs externes diffusent des données qui enseignent mal à l'agent. Ça prend cette information. Il fait des choses qu'il n'est pas censé faire. Encore une fois, en désactivant l'automatisation, ça n'arrive pas. Quand vous avez l'automatisation en place, vous devez vous assurer d'avoir les protections nécessaires. Tu dois avoir un moyen de contrôler l'agent, de le surveiller et de voir s'il fait quelque chose qu'il n'est pas censé faire. Vous avez donné à un agent un ensemble de tâches que vous souhaitez qu'il accomplisse. Si soudainement il commence à faire autre chose que ce qu'on lui a dit, il nous faut la capacité d'arrêter cet agent immédiatement. On appelle ça un interrupteur d'arrêt. Cela fait partie de notre conception. Ce sont les choses que nous cherchons à faire pour atténuer. De plus, si soudainement il pose une question qu'il n'est pas censé poser, qu'il n'a jamais posée avant, ou s'il fait une activité qu'il n'a jamais faite, il y a l'occasion de l'arrêter et de voir pourquoi. Il y a des cas où ça peut avoir du sens, vu ce que c'est censé faire, et d'autres non. Mais nous pencherons par excès de prudence et nous assurerons de le contrôler. De plus, il y a le genre de surveillance du périmètre qu'on va faire pour s'assurer qu'ils n'entrent pas ou ne sortent pas de nos murs. La façon dont nous sécurisons l'environnement, c'est qu'on l'évolue constamment, et on a construit un environnement assez flexible pour qu'on puisse l'évoluer continuellement.

AL : Un autre aspect de l'IA qui inquiète les gens est la vie privée, la confiance, les arnaques. Tu parles d'empoisonnement à la désinformation. C'est un nouveau terme dont je n'avais jamais entendu parler. C'est intéressant. Quelles sont ces préoccupations que nous devrions prendre au sérieux? Et quels sont peut-être exagérés?

TP : Écoutez, je pense que beaucoup de ces préoccupations, nous devons les prendre au sérieux. La peur que l'IA prenne le contrôle des emplois des gens : comme pour toute avancée technologique, je pense que ça va juste changer les emplois des gens. Ce sera juste à un niveau plus élevé. Et je pense que d'autres pourraient être livrés. Si vous pensez aux autres risques impliqués, vous avez des hallucinations, qui peuvent générer de mauvaises informations. Nous avons vu certaines entreprises produire des rapports qu'elles ont déposés officiellement et qui contenaient de fausses informations. L'humain devra toujours être obligé d'atténuer ce risque. Pour revenir à votre point, les stratagèmes d'hameçonnage au début, où vous publiiez de faux sites web, c'était assez évident que c'était un mauvais site, mais maintenant c'est vraiment facile à faire. Nous devons juste continuer à améliorer notre niveau en tant que malveillants. Mais il faut s'assurer qu'on est capables de se défendre. On peut bloquer certaines de ces choses, mais de façon sécuritaire.

AL : Passons un peu plus à un regard plus large sur l'IA. C'est un domaine en évolution rapide. Qu'est-ce qui se passe d'autre sur le plan de l'IA dont on devrait parler maintenant? Quelle est la prochaine vague?

TP : Je ne suis pas sûr qu'il y ait beaucoup de nouvelles tendances qui existent, mais je verrais l'évolution de celles qui ont commencé. Certainement, l'utilisation des Claudes, des Codex et des divers outils a augmenté de façon spectaculaire. Nous commençons à voir un changement dans la capacité réelle de livrer du code. Vous voyez tous les fournisseurs commencer à mettre l'IA quelque part dans leur plateforme juste pour pouvoir dire qu'ils l'ont. On observe un changement d'entreprises qui construisent maintenant des choses qu'elles n'auraient jamais construites auparavant, ce qui menace en fait une partie de l'écosystème qui existait auparavant et qui était assez ancré. Je pense que cette tendance va se voir plus souvent, et je commence à la ressentir en parlant avec des collègues d'autres banques. Ils deviennent plus audacieux quant à ce qu'ils pensent pouvoir faire à l'interne plutôt qu'à l'externe. Je pense que vous verrez un peu de ça. Je pense que la prochaine grande innovation, c'est que l'Agentic a commencé comme une tendance. Je pense qu'aujourd'hui, vous allez voir cela entrer dans un courant dominant où vous commencerez à voir de la confiance envers les agents autonomes. Tout le monde travaille à atteindre un point où on peut leur faire confiance, car ce serait assez puissant. On voit ça. Ensuite, il y a les modèles frontières, qui posent un tout autre type de défi, une tendance dans la façon dont les attaquants peuvent penser à des moyens d'attaquer à une vitesse et un rythme que nous n'avions jamais vus auparavant.

AL : Et ensuite, comment vous préparez-vous à des choses comme les modèles de frontière? Comment vous préparez-vous à cela aussi?

TP : Dans le domaine des modèles de pointe, nous avons été très impliqués dans la sécurité de notre banque face au modèle. Nous restons en contact étroit avec les entreprises qui existent. Et nous avons un programme bien établi, où nous nous assurons de suivre les protocoles des banques. Nous avons collaboré avec nos collègues pour découvrir ce qui se passe. Et nous ne partageons pas de secrets, mais nous en partageons certainement assez pour nous aider à être protégés là-bas. Je pense qu'on fait tout pour rester à jour. Comme je l'ai dit plus tôt, il est essentiel de comprendre ce qui se passe. On ne peut pas juste rester là à se dire, je vais attendre la prochaine chose, et il faut rester à jour sur tout ce qui sort. Il y aura le prochain modèle frontière. Il y aura le prochain problème. Je ne le relierais même pas à un seul modèle. Il faut juste changer d'approche et nos défenses deviennent des attaques alors qu'on regarde comment on surveille constamment nos environnements, cherchant de façon proactive les enjeux et les capacités, et on se met au défi de penser là où d'autres aspects pourraient être risqués. Et l'autre chose qui est vraiment utile, c'est qu'il y a beaucoup d'informations disponibles maintenant, donc c'est plus facile de comprendre où les choses tournent mal. Et dès que nous le détectons, nous cherchons immédiatement à remédier à l'intérieur de notre environnement au cas où il y aurait une vulnérabilité similaire potentielle.

AL : Ma dernière question est, en regardant vers trois ou cinq ans, quel changement d'IA pensez-vous avoir le plus grand impact sur les gens ordinaires?

TP : Je pense en fait que ce sera l'agent entièrement autonome. Je pense que ça va être un gros changement. Encore une fois, c'est aussi comme ça que je le vois d'après ce que je vois aujourd'hui. Mais dans ce monde, ça change tellement rapidement qu'en prédisant dans cinq ans, je n'arrive même pas à imaginer quoi prédire dans cinq ans. Je pense que la chose la plus importante est de rester flexible. Pour être prêt à ce qui s'en vient dans cinq ans, assurez-vous de ne pas vous forcer vers un domaine, une plateforme, une capacité dont vous ne pouvez pas facilement passer parce que nous ne savons pas ce qui sera disponible. Je pense que nous avons vu, et vous m'avez demandé plus tôt pourquoi cela se produit si rapidement, je pense que l'IA engendre plus d'IA. Et on constate que c'est en partie la vitesse de l'IA qui rend les bénéfices de l'IA plus rapides. Les entreprises se dépassent parce qu'elles peuvent tirer parti de leur propre technologie pour trouver une meilleure façon de le faire que l'autre. Et ensuite, l'autre gars fait la même chose. Pour nous, il s'agit vraiment de rester extrêmement flexibles afin de toujours pouvoir tirer parti de la meilleure capacité. Mais oui, pour répondre à ta question, je pense que quand les agents font des choses, ça va changer les choses. Maintenant, dans la vie personnelle, on commence à voir émerger des robots. Personnellement, je ne veux pas d'un robot chez moi avec des caméras et la capacité de faire quoi que ce soit. Je ne suis pas sûr de suivre cette tendance. Mais vous voyez des voitures robotiques. Les gens ont maintenant beaucoup plus souvent des voitures sans conducteur. J'ai trébuché sur les livraisons de robots. Je pense qu'on verra beaucoup plus de choses autonomes se produire. Et ça va être une période intéressante. Et pour moi personnellement, c'est en partie pour ça que je suis si excité d'être ici. C'est une période de transition majeure pour la technologie. Et quel moment formidable d'aider à conduire quelque chose comme ça.

AL : Je pense que c'est un très bon point de départ. Merci beaucoup d'être venu à l'émission et de tout nous expliquer.

TP : Merci beaucoup de m'avoir invité.

AL : Je parlais avec Ty Panagoplos, vice-président exécutif et chef de la technologie de Scotiabank. Le balado Perspectives est réalisé par Ryan Clarke, Natalie Nanowski, Ned Kelly et moi-même, Armina Ligaya. Pour une transcription de cet épisode, ainsi que d'autres histoires, vidéos, analyses et leadership d'opinion, visitez notre site web, scotiabank.com/perspectives. On se voit la prochaine fois.