Canada’s National AI Council Must Include Civil Society

Dear Prime Minister Carney, Minister Solomon, Minister Joly, and Members of the Prime Minister’s National Council on Artificial Intelligence,

Re: Ensuring Meaningful Civil Society and Community Representation in Canada’s National AI Council

We, the undersigned civil society organizations, public-interest advocates, academics, researchers, community leaders, and representatives of equity-seeking communities, write to ask the Government of Canada to reflect on the composition and governance of the newly established Prime Minister’s National Council on Artificial Intelligence—and to strengthen it by ensuring that civil society and the communities most affected by AI have a meaningful and sustained role in its work.

We welcome the Government of Canada’s recognition that artificial intelligence is not simply a technological or economic issue, but one that touches democracy, safety, sovereignty, public services, employment, culture, and the lives of people across the country. The government has stated that the Council will provide independent advice on the evolution of its AI for All strategy, including AI adoption, sovereign infrastructure, safety, the protection of democracy, and ensuring that Canadians prosper from AI.

The Council brings together significant expertise. Its announced membership includes leading researchers, entrepreneurs, investors, executives, public-sector leaders, and experts in AI safety and governance. We respect the experience these members bring and do not question the importance of their participation. To better understand the Council’s composition, we mapped its 13 members by their primary sectors and perspectives in our visual analysis, Canada’s National AI Council: Who’s at the Table? The exercise highlights substantial representation from government, finance, technology, AI research and consulting—but no clearly designated representation from civil society or community-based organizations. At the same time, the public announcement does not identify dedicated representation for Indigenous Peoples and rightsholders, labour, disability communities, equity-seeking communities, youth, or other groups whose lived experiences will increasingly be shaped by AI-enabled systems.

That absence matters because the Council’s mandate extends far beyond technology development. AI is increasingly implicated in areas such as education, employment, health care, public services, information, culture, and democratic participation. Decisions about how these systems are governed inevitably involve questions about values, rights, trade-offs, accountability, and who is allowed to meaningfully participate in defining the public interest. Civil society brings a form of expertise that is different from that of government, academia, or industry: proximity to communities, lived experience, public-interest advocacy, and the ability to represent people who may never enter an AI laboratory or corporate boardroom.

Canada can afford to demonstrate that strong AI leadership is not only about technological capability, investment, or speed of adoption. Efforts to date--the AI and data act of Bill C-27, the 30-day sprint, and the reduction of public consultation to AI literacy--have been inadequate to the task. Our earlier civil-society engagement on Canada’s AI strategy called for permanent, structured participation from civil society, Indigenous communities, and underrepresented groups—not simply consultation after major decisions have already been shaped.

Here is what we believe should happen next:

1. Expand meaningful representation on the National AI Council. Include clearly designated voices from civil society, Indigenous Peoples and rightsholders, labour, disability communities, equity-seeking groups, youth, and organizations working directly with communities affected by AI.
2. Create a permanent mechanism for civil-society participation. Establish a standing Civil Society and Communities body connected to the Council, with the ability to provide input into priorities, raise emerging concerns, and contribute evidence before recommendations are finalized—not only after decisions have been made. This builds on proposals already advanced by Canadian civil-society organizations for structured, ongoing participation in national AI governance.
3. Make the Council’s work meaningfully transparent. Publish its mandate, meeting agendas, recommendations, relevant evidence considered, conflict-of-interest disclosures, and government responses wherever appropriate. Transparency should help Canadians understand not only what decisions are being considered, but whose perspectives informed them and how competing interests were weighed.
4. Embed accountability into the Council’s work. Advice concerning AI adoption, infrastructure, safety, commercialization, and government transformation should systematically consider human rights, privacy, equity, reconciliation, accessibility, labour impacts, environmental consequences, and mechanisms for accountability and redress. Canada’s earlier civil-society proposals similarly called for public-benefit and equity considerations to be integrated directly into AI policymaking.

Not every signatory to this letter will share the same position on every question surrounding artificial intelligence. We do not need to. What brings us together is a belief that technologies capable of reshaping Canadian society should not be governed through the dominance of the public and private sectors.

We are not asking Canada to slow its ambitions in artificial intelligence. We are asking Canada to strengthen the institutional design through which those ambitions are pursued.

If AI is to serve all Canadians, Canadians—in all our diversity—must have a meaningful role in shaping how it is governed.

We stand ready to participate, contribute, and collaborate.

Monsieur le premier ministre Carney, Monsieur le ministre Solomon, Madame la ministre Joly, et membres du Conseil national du premier ministre sur l’intelligence artificielle,

Objet : Assurer une représentation significative de la société civile et des communautés au sein du Conseil national de l’IA du Canada

Nous, organisations de la société civile, défenseurs de l’intérêt public, universitaires, chercheurs, dirigeants communautaires et représentants de communautés en quête d’équité soussignés, demandons au gouvernement du Canada de réfléchir à la composition et à la gouvernance du nouveau Conseil national du premier ministre sur l’intelligence artificielle — et de le renforcer en veillant à ce que la société civile et les communautés les plus touchées par l’IA jouent un rôle significatif et durable dans ses travaux.

Nous saluons la reconnaissance par le gouvernement du Canada du fait que l’intelligence artificielle n’est pas simplement un enjeu technologique ou économique, mais qu’elle touche la démocratie, la sécurité, la souveraineté, les services publics, l’emploi, la culture et la vie des personnes partout au pays. Le gouvernement a indiqué que le Conseil fournira des conseils indépendants sur l’évolution de sa stratégie AI for All, notamment sur l’adoption de l’IA, l’infrastructure souveraine, la sécurité, la protection de la démocratie et les moyens de faire en sorte que la population canadienne bénéficie de l’IA.

Le Conseil rassemble une expertise importante. Sa composition annoncée comprend des chercheurs, entrepreneurs, investisseurs, dirigeants, responsables du secteur public ainsi que des spécialistes de la sécurité et de la gouvernance de l’IA. Nous respectons l’expérience de ces membres et ne remettons pas en question l’importance de leur participation. Afin de mieux comprendre la composition du Conseil, nous avons cartographié ses 13 membres selon leurs principaux secteurs et perspectives dans notre analyse visuelle, Canada’s National AI Council: Who’s at the Table? Cet exercice met en évidence une représentation importante du gouvernement, de la finance, de la technologie, de la recherche en IA et du conseil — mais aucune représentation clairement désignée de la société civile ou d’organisations communautaires. Parallèlement, l’annonce publique n’identifie pas de représentation désignée pour les peuples autochtones et titulaires de droits, le mouvement syndical, les communautés de personnes en situation de handicap, les communautés en quête d’équité, les jeunes ou d’autres groupes dont les réalités vécues seront de plus en plus façonnées par les systèmes fondés sur l’IA.

Cette absence est importante, car le mandat du Conseil va bien au-delà du développement technologique. L’IA intervient de plus en plus dans des domaines comme l’éducation, l’emploi, les soins de santé, les services publics, l’information, la culture et la participation démocratique. Les décisions sur la gouvernance de ces systèmes soulèvent inévitablement des questions de valeurs, de droits, d’arbitrages, de responsabilité et de savoir qui est autorisé à participer de façon significative à la définition de l’intérêt public. La société civile apporte une forme d’expertise différente de celle du gouvernement, du milieu universitaire ou de l’industrie : proximité avec les communautés, expérience vécue, défense de l’intérêt public et capacité de représenter des personnes qui n’entreront peut-être jamais dans un laboratoire d’IA ou une salle de conseil d’administration.

Le Canada peut se permettre de démontrer qu’un leadership solide en IA ne repose pas uniquement sur la capacité technologique, l’investissement ou la rapidité d’adoption. Les efforts déployés jusqu’à présent — la Loi sur l’intelligence artificielle et les données du projet de loi C-27, le sprint de 30 jours et la réduction de la consultation publique à la littératie en IA — ont été insuffisants au regard de la tâche. Nos démarches antérieures de la société civile concernant la stratégie canadienne en matière d’IA demandaient une participation permanente et structurée de la société civile, des communautés autochtones et des groupes sous-représentés — et non simplement une consultation après que les décisions importantes ont déjà été façonnées.

Voici ce qui, selon nous, devrait se produire ensuite :

1. Élargir la représentation significative au sein du Conseil national de l’IA. Inclure des voix clairement désignées de la société civile, des peuples autochtones et titulaires de droits, du mouvement syndical, des communautés de personnes en situation de handicap, des groupes en quête d’équité, des jeunes et des organisations qui travaillent directement avec les communautés touchées par l’IA.
2. Créer un mécanisme permanent de participation de la société civile. Établir un organe permanent de la société civile et des communautés lié au Conseil, capable de contribuer à l’établissement des priorités, de soulever des préoccupations émergentes et de fournir des éléments probants avant que les recommandations soient finalisées — et non seulement après la prise de décisions. Cette proposition s’appuie sur des demandes déjà formulées par des organisations canadiennes de la société civile en faveur d’une participation structurée et continue à la gouvernance nationale de l’IA.
3. Rendre les travaux du Conseil réellement transparents. Publier son mandat, les ordres du jour des réunions, les recommandations, les éléments probants pertinents examinés, les déclarations de conflits d’intérêts et les réponses du gouvernement, lorsque cela est approprié. La transparence devrait aider la population canadienne à comprendre non seulement les décisions envisagées, mais aussi les perspectives qui les ont éclairées et la manière dont les intérêts concurrents ont été pondérés.
4. Intégrer la responsabilité dans les travaux du Conseil. Les conseils concernant l’adoption de l’IA, l’infrastructure, la sécurité, la commercialisation et la transformation gouvernementale devraient systématiquement tenir compte des droits de la personne, de la vie privée, de l’équité, de la réconciliation, de l’accessibilité, des répercussions sur le travail, des conséquences environnementales et des mécanismes de responsabilité et de recours. Les propositions antérieures de la société civile canadienne demandaient également que les considérations d’intérêt public et d’équité soient directement intégrées à l’élaboration des politiques sur l’IA.

Les signataires de cette lettre ne partageront pas nécessairement la même position sur toutes les questions liées à l’intelligence artificielle. Ce n’est pas nécessaire. Ce qui nous rassemble, c’est la conviction que des technologies capables de transformer la société canadienne ne devraient pas être gouvernées sous la domination des secteurs public et privé.

Nous ne demandons pas au Canada de ralentir ses ambitions en matière d’intelligence artificielle. Nous lui demandons de renforcer l’architecture institutionnelle au moyen de laquelle ces ambitions sont poursuivies.

Si l’IA doit servir toute la population canadienne, les Canadiennes et Canadiens — dans toute notre diversité — doivent jouer un rôle significatif dans la manière dont elle est gouvernée.

Nous sommes prêts à participer, à contribuer et à collaborer.