第５００回：欧州連合のＡＩ法（最終施行版の知的財産関連部分）

　丁度一年くらい前に第４８１回で欧州議会可決版について取り上げたが、その後欧州理事会による承認を経て、先月７月１２日に最終版のＡＩ法が掲載され、この８月１日に施行されたので（施行に関する欧州委員会のリリース、ＡＩ法に関するページ参照。なお、このリリース等に書かれている様に、幾つかの例外もあるが、規則の適用までには基本的に２年の猶予期間がある）、このタイミングで知的財産との関係でその内容について簡単に触れておきたいと思う。

　施行された官報掲載版のＡＩ法（欧州連合規則第２０２４／１６８９号）は、付録Ⅲで人の特定、主要インフラ、教育訓練、人事、政府機関などに利用されるものと定義される、高リスクＡＩシステムに比較的強い規制を及ぼそうとするというその主眼において変更はないと言って良いが、文言に細々とした修正が加えられている。

　著作権との関係がどう整理されたかと言うと、以下の様に、この最終施行版の規則では、前文１０４～１０９で欧州新著作権指令との関係についてかなり詳しい説明を加えた上で、規則本文での明記は第５３条第１項のみとなる形に落ち着いた。（以下、翻訳は全ていつも通り拙訳である。なお、これまでの規則案同様、その他にも、前文４８、８８、１６７、第２５条第５項、第５２条第６項、第７８条第１項、付録Ⅶの４．５に、調査等との関係で知的財産を守るべきとの記載もあるが、これらはＡＩと知的財産の関係に関して直接的に何か言おうとするものではない。）

(104) The providers of general-purpose AI models that are released under a free and open-source licence, and whose parameters, including the weights, the information on the model architecture, and the information on model usage, are made publicly available should be subject to exceptions as regards the transparency-related requirements imposed on general-purpose AI models, unless they can be considered to present a systemic risk, in which case the circumstance that the model is transparent and accompanied by an open-source license should not be considered to be a sufficient reason to exclude compliance with the obligations under this Regulation. In any case, given that the release of general-purpose AI models under free and open-source licence does not necessarily reveal substantial information on the data set used for the training or fine-tuning of the model and on how compliance of copyright law was thereby ensured, the exception provided for general-purpose AI models from compliance with the transparency-related requirements should not concern the obligation to produce a summary about the content used for model training and the obligation to put in place a policy to comply with Union copyright law, in particular to identify and comply with the reservation of rights pursuant to Article 4(3) of Directive (EU) 2019/790 of the European Parliament and of the Council.

(105) General-purpose AI models, in particular large generative AI models, capable of generating text, images, and other content, present unique innovation opportunities but also challenges to artists, authors, and other creators and the way their creative content is created, distributed, used and consumed. The development and training of such models require access to vast amounts of text, images, videos and other data. Text and data mining techniques may be used extensively in this context for the retrieval and analysis of such content, which may be protected by copyright and related rights. Any use of copyright protected content requires the authorisation of the rightsholder concerned unless relevant copyright exceptions and limitations apply. Directive (EU) 2019/790 introduced exceptions and limitations allowing reproductions and extractions of works or other subject matter, for the purpose of text and data mining, under certain conditions. Under these rules, rightsholders may choose to reserve their rights over their works or other subject matter to prevent text and data mining, unless this is done for the purposes of scientific research. Where the rights to opt out has been expressly reserved in an appropriate manner, providers of general-purpose AI models need to obtain an authorisation from rightsholders if they want to carry out text and data mining over such works.

(106) Providers that place general-purpose AI models on the Union market should ensure compliance with the relevant obligations in this Regulation. To that end, providers of general-purpose AI models should put in place a policy to comply with Union law on copyright and related rights, in particular to identify and comply with the reservation of rights expressed by rightsholders pursuant to Article 4(3) of Directive (EU) 2019/790. Any provider placing a general-purpose AI model on the Union market should comply with this obligation, regardless of the jurisdiction in which the copyright-relevant acts underpinning the training of those general-purpose AI models take place. This is necessary to ensure a level playing field among providers of general-purpose AI models where no provider should be able to gain a competitive advantage in the Union market by applying lower copyright standards than those provided in the Union.

(107) In order to increase transparency on the data that is used in the pre-training and training of general-purpose AI models, including text and data protected by copyright law, it is adequate that providers of such models draw up and make publicly available a sufficiently detailed summary of the content used for training the general-purpose AI model. While taking into due account the need to protect trade secrets and confidential business information, this summary should be generally comprehensive in its scope instead of technically detailed to facilitate parties with legitimate interests, including copyright holders, to exercise and enforce their rights under Union law, for example by listing the main data collections or sets that went into training the model, such as large private or public databases or data archives, and by providing a narrative explanation about other data sources used. It is appropriate for the AI Office to provide a template for the summary, which should be simple, effective, and allow the provider to provide the required summary in narrative form.

(108) With regard to the obligations imposed on providers of general-purpose AI models to put in place a policy to comply with Union copyright law and make publicly available a summary of the content used for the training, the AI Office should monitor whether the provider has fulfilled those obligations without verifying or proceeding to a work-by-work assessment of the training data in terms of copyright compliance. This Regulation does not affect the enforcement of copyright rules as provided for under Union law.

(109) Compliance with the obligations applicable to the providers of general-purpose AI models should be commensurate and proportionate to the type of model provider, excluding the need for compliance for persons who develop or use models for non-professional or scientific research purposes, who should nevertheless be encouraged to voluntarily comply with these requirements. Without prejudice to Union copyright law, compliance with those obligations should take due account of the size of the provider and allow simplified ways of compliance for SMEs, including start-ups, that should not represent an excessive cost and not discourage the use of such models. In the case of a modification or fine-tuning of a model, the obligations for providers of general-purpose AI models should be limited to that modification or fine-tuning, for example by complementing the already existing technical documentation with information on the modifications, including new training data sources, as a means to comply with the value chain obligations provided in this Regulation.

...

Article 53 Obligations for providers of general-purpose AI models

1. Providers of general-purpose AI models shall:

(a) draw up and keep up-to-date the technical documentation of the model, including its training and testing process and the results of its evaluation, which shall contain, at a minimum, the information set out in Annex XI for the purpose of providing it, upon request, to the AI Office and the national competent authorities;

(b) draw up, keep up-to-date and make available information and documentation to providers of AI systems who intend to integrate the general-purpose AI model into their AI systems. Without prejudice to the need to observe and protect intellectual property rights and confidential business information or trade secrets in accordance with Union and national law, the information and documentation shall:
(i) enable providers of AI systems to have a good understanding of the capabilities and limitations of the general-purpose AI model and to comply with their obligations pursuant to this Regulation; and
(ii) contain, at a minimum, the elements set out in Annex XII;

(c) put in place a policy to comply with Union law on copyright and related rights, and in particular to identify and comply with, including through state-of-the-art technologies, a reservation of rights expressed pursuant to Article 4(3) of Directive (EU) 2019/790;

(d) draw up and make publicly available a sufficiently detailed summary about the content used for training of the general-purpose AI model, according to a template provided by the AI Office.

2. The obligations set out in paragraph 1, points (a) and (b), shall not apply to providers of AI models that are released under a free and open-source licence that allows for the access, usage, modification, and distribution of the model, and whose parameters, including the weights, the information on the model architecture, and the information on model usage, are made publicly available. This exception shall not apply to general-purpose AI models with systemic risks.

...

（１０４）フリーかつオープンソースライセンスの下でリリースされ、重みづけを含む、そのパラメータ、モデルアーキテクチャに関する情報、モデルの使用に関する情報が公衆に入手可能とされている一般目的ＡＩモデルのプロバイダーには、システミックリスクを提供するものと考えられない限り、一般目的ＡＩモデルに課される透明性関連の要求に関する例外が適用されるが、システミックリスクを提供すると考えられる場合、モデルに透明性があり、オープンソースライセンスが付与されているという事情は、本規則における義務を除外されるのに十分な理由となるとは考えられない。何にせよ、フリーかつオープンソースライセンスの下でなされた一般目的ＡＩモデルのリリースが、そのモデルの学習及びファインチューニングのために使われたデータ及びどのようにして著作権法を遵守したのかに関する実質的な情報を必ず開示する事がないとしても、この透明性関連の要求の遵守に対して一般目的ＡＩモデルに提供される例外が、モデルの学習に使われたコンテンツに対する概要を作成する義務、及び、特に、欧州新著作権指令第２０１９／７９０号の第４条第３項に従ってなされる権利の留保を特定し、それに合致する対策を取る義務に関わる事はない。

（１０５）文章、画像及び他のコンテンツを生成する事が可能な一般目的ＡＩモデル、特に、大規模生成ＡＩモデルは唯一無二のイノベーションの機会を提供しているが、芸術家、著作家及び他のクリエータ並びにその創造的なコンテツが創作され、頒布され、利用され、消費される方法に対する課題ともなっている。テキスト及びデータマイニング技術は、この文脈において、そのような著作権及び著作隣接権によって守られるものであり得るコンテンツの検索及び分析のために広く使われ得るものである。著作権によって守られるコンテンツの利用は、関係する著作権の例外及び制限が適用されない限り、関係する著作権者の許諾を必要とする。欧州新著作権指令第２０１９／７９０号は、ある条件の下で、テキスト及びデータマイニングのために著作物又は他の保護対象の複製及び抽出を認める制限及び例外を導入した。この規則の下で、権利者は、科学研究のためになされる場合を除き、その著作物又は他の保護対象に対する権利を留保し、テキスト及びデータマイニングを抑止する事ができる。オプトアウトする権利が適切なやり方で明示的に留保された場合、一般目的ＡＩモデルのプロバイダーは、そのような著作物に対してテキスト及びデータマイニングを実行したいと思うなら、権利者から許諾を取る必要がある。

（１０６）一般目的ＡＩモデルを欧州連合の市場に置くプロバイダーは、本規則における関係する義務に合致しなければならない。この目的のため、一般目的ＡＩモデルのプロバイダーは、著作権及び著作隣接権に関する欧州連合法に合致し、特に、最新技術を用いる事も含め、欧州新著作権指令第２０１９／７９０号の第４条第３項に従って表される権利の留保を特定し、それに合致する対策を取るべきである。一般目的ＡＩモデルを欧州連合の市場に置くプロバイダーは、その一般目的ＡＩモデルの学習を支える著作権に関する行為が行われた法域がどこであるかに関わらず、この義務を遵守するべきである。これは、一般目的ＡＩモデルのプロバイダーの間におけるある水準の競技場を確保するために必要な事であり、そこで如何なるプロバイダーも欧州連合において提供されるものよりも低い著作権スタンダードの適用により欧州連合において競争的利点を得るべきではない。

（１０７）著作権法によって保護される文章及びデータを含む、一般目的ＡＩモデルの事前学習及び学習に用いられるデータの透明性を向上させるため、そのようなモデルのプロバイダーは一般目的ＡＩモデルの学習のために用いられたコンテンツの十分詳細な概要を作成し、公衆に入手可能とする事が適切である。営業秘密及び機密のビジネス情報を守る必要性を考慮にいれると、この概要は、著作権者を含む正当な利益を持つ関係者が欧州連合法の下でその権利を行使及び執行するのを容易にするよう、一般的に技術的に詳細なものであるよりその範囲において包括的であるべきであって、例えば、大きな私的又は公的なデータベース又はデータアーカイブ等のモデルの学習に用いられた主要データコレクション又はセットを列挙する事や、利用した他のデータソースに関して文章による説明を提供する事によってなされる。

（１０８）欧州連合の著作権法に合致した対策を取り、学習に利用したコンテンツの概要を公衆に入手可能とするという一般目的ＡＩモデルのプロバイダーに課される義務に関して、ＡＩオフィスが、著作権遵守の条件について学習データの確認や著作物ごとにその評価をして行く事まではしないが、プロバイダーがこれらの義務を満たしているかどうかを監督する。本規則が欧州連合法の下で提供される著作権に関する規則の執行に影響を与える事はない。

（１０９）一般目的ＡＩモデルのプロバイダーに適用される義務の遵守はモデルプロバイダーの種類と釣り合いの取れたものであるべきであり、非職業な又は科学研究の目的のためにモデルを開発又は利用する者に対し遵守の必要性を除外するが、これらの者もそれでもこれらの要求に自主的に合致する事が推奨されるべきである。欧州連合の著作権法に影響を与える事なく、これらの義務の遵守はプロバイダーの規模について適切な考慮がされるべきであり、過大な費用を負担させるべきでなく、その様なモデルを利用する気を削がれるべきではないスタートアップを含む中小企業の遵守について簡素化されたやり方を許すべきである。モデルの修正又はファインチューニングが問題となる場合、一般目的ＡＩモデルのプロバイダーに対する義務はその修正又はファインチューニングに限られるべきであり、例えば、本規則に規定されたバリューチェーンの義務に合致する手段として、既に存在する技術文書を、新しい学習データソースを含む修正に関する情報で補完する事によってなされる。

（略）

第５３条　一般目的ＡＩモデルプロバイダーの義務

第１項　一般目的ＡＩモデルプロバイダーは以下の事をしなければならない：

（ａ）その学習及び試験プロセス並びにその評価の結果を含むモデルの技術文書の作成及び更新を行う事、それは、要求に応じてＡＩオフィス及び各国の権限を有する当局に提供する目的のため、最低限、付録ⅩⅠに規定された情報を含んでいなければならない；

（ｂ）そのＡＩシステムのために一般目的ＡＩモデルを統合しようとするＡＩシステムプロバイダー向けの情報及び文書を作成、更新し、入手可能とする事。ＥＵ及び各国法に従い、知的財産及び機密のビジネス情報又は営業秘密に影響を与える事なく、情報及び文書は以下の様なものでなければならない：
（ⅰ）一般目的ＡＩモデルの能力と制限について良い理解を与え、本規則によりその義務に従う事をＡＩシステムプロバイダーに与えるものである事。
（ⅱ）最低限、付録ⅩⅡに規定された要素を含む事。

（ｃ）著作権及び著作隣接権に関する欧州連合法に合致し、特に、最新技術を用いる事も含め、欧州新著作権指令第２０１９／７９０号の第４条第３項に従って表される権利の留保を特定し、それに合致する対策を取る事。

（ｄ）ＡＩオフィスによって提供されるテンプレートに従い、一般目的ＡＩモデルの学習に用いられたコンテンツに関する十分詳細な概要を作成し、公衆に入手可能とする事。

第２項　第１項（ａ）及び（ｂ）に規定された義務は、モデルへのアクセス、その使用、修正及び頒布が許されるフリーかつオープンソースライセンスの下でリリースされ、重みづけを含む、そのパラメータ、モデルアーキテクチャに関する情報、モデルの使用に関する情報が公衆に入手可能とされている一般目的ＡＩモデルのプロバイダーには適用されない。この例外はシステミックリスクのある一般目的ＡＩモデルには適用されない。

（第３項以下略：一般目的ＡＩモデルプロバイダーの当局への協力義務や欧州委員会の権限等について規定）

　この部分だけを見ても、細々とした書きぶりは変わっているが、「学習に用いられたコンテンツに関する十分詳細な概要」を公開するというＡＩモデルプロバイダーの義務が含まれているという点において、欧州議会可決版と本質的な違いはない。ただし、新しく作られたＡＩオフィスがそのテンプレートを用意するという事が書き加えられるとともに、欧州新著作権指令におけるテキスト及びデータマイニングの例外に対する権利の留保を考慮した対策を取る事やオープンソースの場合の例外も明文化された。（欧州議会可決版や欧州新著作権指令との関係については第４８１回参照。）

　この著作権関連部分以外についてと同様、このＥＵのＡＩ法が実際にどの様に適用されるのかは、最近欧州委員会に作られたＡＩオフィスでされるのだろう詳細な検討次第としか言い様がないが、第４８１回で欧州議会可決版時点で書いた通り、大量のデータによる学習を前提とする機械学習で学習に用いた個々の著作物について明示する様な事はおよそ現実的ではないので、各ＡＩサービス提供者がそれぞれ適法にアクセス可能なインターネット上の著作物を用いて機械学習を行っているという程度の事を公開するだけで終わり、大して意味のある結果をもたらす事はないだろうという私の見立てに変わりはない。

　また、対策を取るよう明記された権利者側の留保についても同じで、現時点で、本当に機械的に自動処理可能な統一された留保の記載方法がある訳ではなく、ほぼ全ての場合で留保されていないと見えるか、留保されているかどうか分からないという事になり、ここの留保とこれに関する義務がまともに機能する事はないのではないかとやはり思える。

　オープンソースの場合の例外についても、このＡＩ法による規制が規制として機能するかどうか次第という事になるだろう。

　前に書いた事と同じだが、要するに、このＥＵのＡＩ法は、全体として見た時には著作権との関係は少なく、その主眼は人の特定などに用いられる高リスクＡＩの規制、ＡＩによる偽情報作成への対策などにあると言って良いものである。

　そして、このＥＵのＡＩ法がＡＩを包括的に規制しようとする法令としては恐らく世界の主要国（連合）で初めてのものであるのは間違いない。つい先日８月２日に合同で開かれたＡＩ戦略会議・ＡＩ制度研究会（この研究会としては第１回）の資料ＡＩ政策の現状と制度課題(pdf)でも欧米の動向として紹介されており、この日本の検討においても参考にされて行くのではないかと思えるが、その際はこのＡＩ法の主眼であるＡＩによる人の特定に関するリスクや偽情報生成などの問題について、日本でどうするのかという本筋の検討が正しくなされる事を期待する。

　ＡＩに関する問題というと知財との関係がクロースアップされる事も多いが、今現在ＡＩの技術発展によって生じている問題において本当に中心として検討すべきは、知財問題以上に偽情報対策などであると私は常に思っている。ＡＩと知財の関係についても各省庁で検討が続けられるのだろうと思うが、既に文化庁と知財本部のそれぞれの報告書で一定の整理がされていると私は評価している（文化庁の報告書については第４９２回、知財本部の報告書については第４９５回参照）。