欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト

今回は「欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト」についてご紹介します。

関連ワード （AI、EU、うそ発見器等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

EU出資の研究プロジェクトが議論の的になっている。そしてこのプロジェクトに関して2021年2月初旬、欧州司法裁判所で法的な異議申し立てが行われた。プロジェクトの目的はというと、顔の表情に基づく「うそ発見」に人工知能を使用して入国審査をスピードアップすることである。

欧州連合（EU）の資金調達プログラムを監督する研究執行機関（REA）に対して行われた透明性に関する訴訟は、2019年3月にドイツ海賊党の欧州議会議員で人権擁護活動家のPatrick Breyer（パトリック・ブレイヤー）氏が起こしたものである。同氏は以前にも文書の開示拒否をめぐって欧州委員会に勝訴している。

同氏はこのプロジェクトの倫理的評価、法的許容性、マーケティング、および成果に関する文書の公開を求めている。さらに、公的資金を投入した研究はEUの基本的権利を遵守しなければならないという原則を規定し、その過程でAIの「まやかし」により公的資金が浪費されることを阻止したいと考えている。

この度の公聴会に続く声明でブレイヤー氏は「EUは危険な監視、統制技術を開発させ続けており、将来的には兵器研究にも資金を提供することになるでしょう。私的な利益のために公的資金が使われている非倫理的な研究に対し、公的な監査と議論を可能にする画期的な判決を期待しています」と述べた。「納税者や科学者、メディア、議会議員には、公的資金に基づく研究に関する情報を取得する権利があることを、今回の透明性に関する訴訟で裁判所にきっぱりと裁定してもらいたいと思っています。『iBorderCtrl（アイボーダーコントロール）のビデオうそ発見器』のような疑似科学的でオーウェル的（権威主義や監視社会を表す表現）な技術についてはなおさらです」。

裁判所はまだこの件について判決日を指定していないが、裁判官からREAに対し「1時間以上にわたって集中的かつ批判的な」質問があったとブレイヤー氏は述べた。また同氏が明らかにしたところによると、関連するAI技術についての文書は、公開はされていないが裁判官によりその内容が検討されている。この文書には「人種的特徴」に関する記述なども含まれ、多くの疑問が投げかけられているということだ。

ブレイヤー氏によると、裁判長は続けて、物議を醸しているiBorderCtrlプロジェクトについて、より多くの情報を公開しREAに隠蔽するものが何もないと証明することは、同機関の益にもなるのではないかと問いただしたという。

問題の研究が議論の的となっているのは、正確なうそ発見器という概念はいまだサイエンスフィクションの域を出ず、人がうそをついてることを示す「すべての人に共通の心理学的サイン」の存在は立証されていない、という正当な理由からである。

しかし、このAIを駆使したビデオうそ発見器（ウェブカメラで被験者の顔の表情をスキャンしながら、バーチャル入国審査官からの質問に答えるように求め、欧州理事会（EC）のプロジェクト公式概要で「嘘のバイオマーカー」と表現されているものを検出することで、被験者の表情の真実性をスコア化するというもの（本当にこういう仕様なのである）を構築するための商業研究開発の「実験」は、EUのHorizon 2020（ホライゾン2020）計画の下で450万ユーロ（約5億7000万円）以上の研究資金を獲得している。

iBorderCtrlプロジェクトは2016年9月から2019年8月までの間に実施され、資金調達は多くの加盟国（英国、ポーランド、ギリシャ、ハンガリーなど）において13の民間または営利団体の間で広く行われた。

欧州委員会が2020年公表するとしていた公開調査報告書であるが、透明性の欠如に異議を唱えるブレイヤー氏の質問に対する書面での回答によると、まだ公開されていないようだ。

2019年、米国のインターネットメディアであるThe Intercept（インターセプト）が、iBorderCtrlのシステムを実際にテストした。このビデオうそ発見器は被験した記者に嘘をついているという無実の罪を着せた。彼女が16の質問のうち4つに、虚偽の回答をしたと判断し、総合スコア48という数字を与えたのだ。この結果をチェックした警察官によると、この記者は追加チェックの対象になるとシステムにより判断を下されたという。もちろん、このシステムが実際の入国審査で稼働されたわけではなかったので、再チェックになることはなかったのだが。

The Interceptはこの記者に対するテスト結果のコピーを入手するため、EU法により定められた権利であるデータアクセス要求を提出する必要があったと述べた。The Interceptはレポートで、ダービー大学の犯罪捜査学教授であるRay Bull（レイ・ブル）氏の言葉を引用している。同氏はiBorderCtrlプロジェクトには「信憑性がない」と述べ、人の顔のマイクロジェスチャーをモニタリングすることで嘘を正確に測定できるという十分な証拠はない、という理由を挙げている。

「REAはこのうそ発見器に実質的効果があると都合のよい解釈をし、多くの資金を浪費しています。この技術の根底には、真実を述べている人と、うそをついている人の振る舞いについて、根本的な誤解があります」ブル氏はこのようにも語っている。

十分なデータを入力するだけでAIが人間の特徴を自動予測できるという考えは、とても広く浸透している。とても嘆かわしいことだ。機械学習を応用して顔の形から「人格的特徴」を導き出すことで骨相学を復活させようとする最近の試みからも、そのことは明らかだ。こうして、顔をスキャンするAI「うそ発見器」は、非科学的な「伝統」に従っているのだ。そうした恥ずべき伝統は長い間はびこっている。

21世紀になって、何百万ユーロ（何億円）もの公的資金が粗悪な、古いアイデアの焼き直しにつぎ込まれているのは、率直にいって信じ難いことだ。こうした公的資金の無駄遣いは、EUが資金協力するこのうそ発見器の研究に内在する倫理的・法的な盲点について検討しようとする以前の問題だ。またこの研究は、EU憲章に定められた基本的権利に反している。そして、この研究が開始されるに至るうえで誤った判断が多く下されたことを考えると、とても情けない気持ちになる。

このような怪しげなAIの応用システムに資金を提供することは、データ駆動型テクノロジーが偏見や差別を広げるリスクを抱えていることを示す、過去の優れた研究をすべて無視しているようにも見える。

ただし、このAI応用実験における倫理的側面への配慮について、iBorderCtrlを支援するコンソーシアムが下した評価については、非常に限られた情報しか公開されていないため、確かなことはわからない。この倫理的側面への配慮というのは、ビデオうそ発見器に対する訴状の中核となる部分だ。

ルクセンブルクにある欧州司法裁判所での異議申し立ては、欧州委員会にとって非常に厄介な疑問を提起している。EUは疑似科学的な「研究」に公的資金を投入すべきなのか？本当の科学に資金を提供するべきではないか？そして、EUの珠玉となる主力研究プログラムが、なぜこれほどまでに公的な監視を受けていないのか？といった疑問である。

一方で、このビデオうそ発見器がEUの「倫理的自己評価」プロセスをパスしたという事実から「倫理面の問題がないかチェックする」とされているこのプロセスが、まがい物であることがうかがい知れる。

「研究開発の申請を受け入れるかどうかは、まず加盟国の代表者が判断を下し、最終的にはREAが決定します。したがって公的な監視がなく、議会やNGOは関与していません。そういったプロジェクトのすべてを審査する、独立した倫理団体もありません。研究開発に関連した全体的な仕組みは、非常にお粗末なものなのです」とブレイヤー氏は語る。

「この研究開発の目的は科学に貢献することでも、公共の利益に寄与することでも、EUの政策に貢献することでもなく、産業を支援することであり、つまり販売できる製品を開発することであるというのがREAの基本的な主張です。成り立ちからして、これはまさに経済支援プログラムなのです。そしてこうしたプログラムのあり方の是非、プログラムの妥当性の有無について私たちは議論すべきだと思っています」。

「EUはAIを規制しようとしていますが、実際のところ、非倫理的で違法な技術に資金を提供しているのです」と同氏は付け加えた。

EUが自らの定める権利に反するような研究に資金を提供することは、偽善である。さらに、批判者たちが主張するように、本当に有用な研究（安全保障目的の研究、もっと広く見れば公共利益に寄与する研究、EUの議員が好んで言及する「欧州的価値観」を促進する研究など）に費やされるべき公的資金の無駄遣いであるといえる。

「この研究は正常に機能しない、非倫理的である、違法であるといった理由からまったく活用されることがない上に、本当に重要で有用な他のプログラムに使われるべき資金を浪費しています。こうした点について私たちは知り、理解する必要があります」とブレイヤー氏は主張する。

「例えば保安対策プログラムに投資して警察官の安全装備を改良できるかもしれません。あるいは犯罪防止対策として国民への情報提供システムを改善できるかもしれません。つまり資金を適切に利用すれば、多くのことに貢献できるのです。怪しげな技術に資金が無駄遣いされるようなことがあってはならないのです。AI「うそ発見器」に類する技術が決して実用化されないよう祈るばかりです」。

EUの主力研究およびイノベーションプログラムの今回の具体化は、Horizon 2020を引き継いでおり、これには2021年から2027年の期間で約955億ユーロ（約12兆円1700万円）の予算が計上されている。またデジタルトランスフォーメーションの推進とAIの開発は、EUが 公表している研究資金投入の優先事項にあたる。そのため「実験的」AIに利用できる資金は莫大にあると考えられる。

しかし、アルゴリズムによるまやかしに資金が浪費されないよう監視するのは誰なのか。研究開発がEUの基本的人権に関する憲章に明らかに反している場合、このアルゴリズムによるまやかしは危険なものになるのだ。

欧州委員会は、これらの問題に関する説明を求める再三の要請を拒否したが、公になっている項目（下記）と、文書へのアクセス（これが訴状の中核なす）に関する背景情報をいくつか発表した。

「研究における倫理」に関する同委員会の公式声明は「EUが資金提供する研究においては倫理が最優先される」という主張から始まる。

「Horizon 2020の下で行われるすべての研究やイノベーション活動は、倫理的原則、および基本権憲章や欧州人権条約を含む関連する国内法、EU法、国際法を遵守しなければならない」とも述べ、さらにこう続く。「すべての計画は特定の倫理評価を受ける。この評価により、その研究プロジェクトが倫理的規則および基準を遵守しているかどうかが検証され、その遵守を契約により義務づけられる」。

この声明は尊厳やプライバシー、平等、無差別の権利といったEUの基本権を「ビデオうそ発見器」が遵守することができるのかという点について、詳しく述べてはいない。

そして注目すべきは、欧州データ保護監督官（EDPS）が、EUの資金提供する科学研究とデータ保護法との間のズレについて懸念を表明したことだ。2020年の予備的意見書にはこう書かれている。「我々は、データ保護当局と倫理審査委員会が活発な議論を行い、共通理解を深めることを提言する。議論すべき内容には次のものが含まれる。真正な研究に該当する活動を判定する基準、科学研究を対象とするEUの行動規範、EUのフレームワークプログラム（EU加盟国および関連国を対象とした研究助成プログラム）とデータ保護基準との緊密な連携、民間企業が保有するデータを研究者が公共の利益という観点に基づいて活用できる状況を定義するための話し合いの開始、といったことである」。

とりわけiBorderCtrlプロジェクトについては、研究において倫理的側面が関係する部分を「研究開始当初に定められた倫理要件を遵守」しながら進めていけるよう監督する倫理アドバイザーを任命した、と欧州委員会はTechCrunchに語った。「アドバイザーについては、コンソーシアムからの自律性と独立性を確保しながらその職務を果たす」と主張しているが、プロジェクトの（自薦の）倫理アドバイザーが誰であるのかについては明らかにしなかった。

「倫理的な部分については、プロジェクトの遂行中、同委員会やREAが常に管理し、成果物を適宜改正している。報告期間の終わりに行われる技術審査会議では、外部の独立した専門家の協力を得て慎重に分析を行っており、2019年3月に十分な倫理チェックが行われた」と記載されている。

この自主規制的な「倫理チェック」についての詳細は明らかにされなかった。

「これまでのところ、基本的に倫理チェックは欧州委員会が、提案や要請に応じて設置した専門家グループにより行われています」とブレイヤー氏は言い、EUの研究プログラムの構成に言及している。「研究プログラムは業界の専門家が大半を占めており、議会議員は1人もおらず、市民社会の代表者は、私が考えるところでは1人しかいません。つまりそもそも最初から構成が間違っているのです。それから研究執行機関（REA）があり、実際の決定はEU加盟国の代表者によって行われます」。

「研究提案を奨励する動き自体は調べてみると非常に一般的なもので、問題はないようです。本当の問題は提出された研究提案の方なのです。そして私が理解している限り、こういった提案は独立した専門家によって審査されていません。つまり、倫理の問題に自己評価で対処しているのです。プロジェクトに高い倫理的リスクがあるかどうかは、基本的に研究の提案者が申告することになっています。提案者が倫理的リスクがあると申告した場合のみ、REAによって選出された専門家が倫理評価を行います」。

「我々には誰の研究提案が採用されたのかも、その研究の内容もわかりません。そうした情報は非公開なのです。後になってプロジェクトに倫理的な問題があることがわかったとしても、資金援助を取り消すことはできません」。

欧州委員会がAIの応用に関してリスクベースの規定を策定中であることから、偽善を暴こうとするブレイヤー氏による告発は大きな注目を集めている。またEUの議員たちは、人工知能技術がEUの価値観や権利に沿って適用されるようにするためには「ガードレール」が必要であることを何年も前から主張してきた。

関連記事：EUでのデジタル課税やAI、プライバシー保護について競争政策担当委員が欧州議会に回答

例えば欧州委員会のEVP（エグゼクティブバイスプレジデント）であるMargrethe Vestager（マルグレーテ・ベステアー）氏は、人工知能が「倫理的に使用され」「人間の意思決定をサポートし、それらを損なうことがない」ようにするための規定の必要性について語っている。

しかしEUの諸機関は、EUで実施されれば明らかに違法となるようなAI研究に公的資金を投入していることも事実である。市民社会の批評家たちは「うそ発見」の有効性を裏づける科学的根拠がないことを考えると、この研究は明らかに非倫理的であると非難している。

iBorderCtrlのウェブサイト内にあるFAQセクションでは、同プロジェクトで開発された技術の一部は実際に導入された場合、既存のEUの法的枠組みの範囲を超えてしまうことを、プロジェクトを推進している商業ベースのコンソーシアムが認めている。そしてこれは「法的根拠を確立する政治的決定が民主的になされない限り、そうした技術は導入できない」ことを意味する、と付け加えている。

言い換えれば、そのようなシステムを実際に欧州の入国審査に使うことは、法律を変えなければ違法になるということだ。それにもかかわらず、ヨーロッパの公的資金がそうした技術の研究に投入された。

欧州データ保護監督官（EDPS）の広報担当者はブレイヤー氏のケースについて具体的にコメントすることを控えたが、それでも科学研究とデータ保護に関するEDPSの予備的見解は重要な意味を持つことを認めた。

また、EU全体における健康データの研究目的の共有を奨励する欧州委員会の最近の動きに対応した、さらなる関連研究についても触れた。これについてEDPSは、データ保護の予防措置は「最初に」定義されるべきであり、また、研究が開始される前に「考え抜かれた」法的根拠が確立されるべきであると助言している。

「EDPSは健康データ共有の枠組み内でデータを倫理的に使用することに留意するよう勧告しており、そのために、既存の倫理委員会および国内法に照らした同委員会の役割を考慮に入れることを促している」と、EUの主任データ監督官は書いている。また「健康データ共有計画の成功には、EUの価値観（基本的権利の尊重など）に根ざし、合法で、責任ある倫理的管理を保証する強力なデータガバナンスメカニズムの確立が鍵となることは確実だ」と加えている。

（長文を嫌う人のための）要約：データの法的・倫理的な使用は、最初から研究努力の大前提である。データが法的・倫理的に使用されているかどうかを、研究開始後にチェックするようなことがあってはならない。

EUの資金が投入された研究プロジェクトに対して独立した倫理的監視がないことに加え、営利目的とされる研究について現状懸念されるのは、外部の人間がその研究の技術を独立して検証する（つまり誤りを立証する）方法がないことだ。

iBorderCtrlの技術の場合、プロジェクトの成果に関する有意なデータは公開されておらず、情報公開法に基づいてデータを要求しても、商業的利益を理由に認められない。

ブレイヤー氏は2019年にこのプロジェクトが終了して以来、その成果に関する情報を取得しようと試みているが、果たされていない。ガーディアン紙は2020年12月に同氏が反撃したことについて詳しく報じている。

プロジェクトの成果に関する情報を公開する、しかも終了後、長い時間を経てからそうするための要件は、EUの研究に関わる法的枠組みの下では非常に限られているとブレイヤー氏は述べている。したがって同氏が望むのは「商業的利益」を盾に公共の利益になる情報開示をすべてにおいて拒否することはできない、という主張に司法裁判所が合意することである。

「REAは基本的に、プロジェクトが実際に実用化できるかどうかを検討する義務はないので、実用化できない研究に資金提供する権利があると主張しています」と同氏はTechCrunchに語った。「それに、情報を公開することで技術の販売に悪影響が及ぶ場合、それは情報公開を拒む十分な理由になると主張していますが、これは商業的に機密性の高い情報を極端に拡大解釈しています」。

「ソフトウェアプログラムのソースコードや、内部計算など、本当に商業上の秘密が含まれている情報を除外することなら私も認めます。しかし、例えばあるプロジェクトに倫理的な問題があるとされている場合は、商業的利益を理由に情報公開要求を拒否できるようなことがあってはなりません。倫理的な問題があるプロジェクトであれば、たとえ公開された情報に商業上の秘密が含まれていなくても、確かに技術の販売に悪影響が及ぶでしょう。しかしREAの主張のような解釈はあまりにも極端です」。

「今回の法的措置が前例となり、倫理的な問題があり、実際に使用されたり導入されたりした場合に違法となる技術に関する情報を明らかにし、公衆の「知る権利」は技術を販売するための商業的利益よりも優先されるということが明言されるよう願っています」とブレイヤー氏は付け加えた。「REAは情報を公開することで技術が売れる可能性が低くなるためにそうしないと言っています。こうした主張について知ったとき、今後、彼らは情報公開要求すべてに対して同じような主張で対抗してくるはずですから、このケースは間違いなく法廷に持ち込む価値があると考えました」。

市民社会団体も、iBorderCtrlプロジェクトに関する詳しい情報を入手しようという試みに失敗している。The Interceptが2019年に報じたところによると、ミラノに拠点を置くHermes Center for Transparency and Digital Human Rights（透明性とデジタル人権のためのエルメスセンター）の研究者が情報公開法を利用してiBorderCtrlのシステムなどに関する内部文書を入手したが、彼らが得た何百ものページは大幅に修正されており、その多くは完全に黒塗りにされていた。

「その他の怪しげな研究プロジェクトについて調べようとして失敗したジャーナリストから、REAが情報を大量に隠しているという話を聞いたことがあります。倫理報告書や法的評価のようなものでさえも隠匿されており、そうした情報自体に商業的な機密は含まれていません」とブレイヤー氏は続ける。「ソースコードもいかなる機密情報も含まれていません。REAはこうした情報に関しては部分的にも公表していません」。

「EU当局（REA）は実際のところ、利益が減る可能性が判明すれば情報はすぐに非公開にするのだから、どのような関心に基づく情報公開要求があっても我々には関係がないと述べているのです。これには開いた口がふさがりません。自分たちの税金が何に使われているのかを知りたいという納税者の関心、および「虚偽検出」の実験をテスト、検証すべきだと求める科学的な関心の観点からも、REAの主張は容認できません。さらに、『虚偽検出』については本当に機能するのかという点を焦点に激しい議論が交わされています。科学者が虚偽検出の技術を検証したり誤りを立証したりするためには、当然ながら、この実験の詳細情報が必要です」。

「また、民主的にいえば、議会議員がこのようなシステムの導入を決定する場合や、研究プログラムの枠組みを決定する場合にさえも、詳細情報を知る必要があります。例えば、誤検出の数はどれくらいだったのか、システムの実際の精度はどの程度か、顔認証技術などは特定の集団にはあまりうまく機能しないことを考慮すると、差別的影響があるのか、といった情報です。私たちが本当に今すぐに知る必要があるのは、こういった情報で十分なのです」。

EUが資金提供している研究に関連する文書へのアクセスについて、欧州委員会は「各ケースは慎重かつ個別に分析される」と付け加えながらも、規則1049 / 2001を参照するよう我々に促した。欧州委員会によると同規則が「一般的な原則と制限を規定している」という。

しかしHorizonプログラムの規則に対する同委員会の解釈は、情報公開法の適用を、少なくともiBorderCtrlプロジェクトのケースでは完全に排除しているように見える。

ブレイヤー氏によると、情報公開は研究結果の概要に限定されている。この概要はプロジェクトの完了から約3、4年後に公開可能となる。

「どこかの科学雑誌でこのプロジェクトについて5、6ページの論文が掲載されますが、もちろんそれを使って技術の検証や誤りの立証をすることはできません」と同氏はいう。「プロジェクト関係者による具体的な取り組みや、プロジェクトへの協力機関は不明です。そのため研究結果の概要は科学的にも民主的にも何の意味も持たず、一般市民にも利益はありません。しかも、公開までに時間がかかりすぎます。ですから、将来私たちがより多くの情報を把握し、できれば公開討論が行われることを私は期待しています」。

EU研究プログラムの法的枠組みは二次法である。そのため、ブレイヤー氏は「商業的利益」の保護に関する包括的条項が、透明性に関するEUの基本的な権利より優位になるようなことがあってはならないと主張している。しかしもちろん、決定は裁判所次第だ。

「透明性、それに情報へのアクセスは、実際EUの基本的権利であり、EU基本権憲章に記載されているため、私にも大いにチャンスがあると考えています。そしてこのホライズンの法規はあくまでも二次法であり、一次法から逸脱できません。二次法は一次法に沿って解釈される必要があります」とブレイヤー氏は語る。「ですから、おそらく裁判所が私の主張を認め、公共の利益の優先を前提としつつ商業上の情報も保護する情報公開法の観点から、うまくバランスの取れた判断を下すと思います。裁判所がちょうどよい妥協点を見つけ、うまくいけば、これまでよりも多くの情報が公開されるようになり、透明性も増すだろうと思います」。

「おそらくREAは文書の一部を黒く塗りつぶし、一部は修正するでしょうが、原則として文書にアクセスできるようになると期待しています。そして、将来的にこの研究に関して要求される情報の大半を、欧州委員会とREAは必ず提供しなければならないことになります。この研究に関連して怪しげなプロジェクトがまだたくさんあるからです」。

ブレイヤー氏によると、資金提供申請を承認する委員会を産業界とEU加盟国の代表者（彼らは当然、EUの資金が常に自分たちの地域に入ってくることを望んでいる）中心に構成するのではなく、議会の代表者、より多くの市民社会の代表者、科学者も含めて構成することで、研究プロジェクトを監視できる優れたシステムをスタートさせることができる、とのことである。

「研究プロジェクトの監視システムには独立した参加者が必要で、そうした参加者が過半数を占めるべきです」と同氏はいう。「それは、研究活動の舵を取り、公共の利益、EUの価値観の遵守、そして研究の有用性といったことを促進する上で意味があることです。私たちは、効果がなかったり、倫理的な問題であったり、違法であったりするために決して利用されない研究について知り、理解する必要があります。そうした研究によって、とても重要かつ有用な他のプログラムに使うべき資金が浪費されているからです」。

ブレイヤー氏はまた、防衛に焦点を置く新しいEU研究プログラムが立ち上げ中であることを指摘している。この研究プロジェクトの構造は、これまでと同じである。つまり資金提供の決定や情報開示に対する適切な公的監視体制が整えられていない。同氏は次のように述べている。「REAは防衛技術の研究プロジェクトにおいても、iBorderCtrlの場合と同様のことを行おうと考えています。そして、この研究プロジェクトでは致死技術さえ扱われるのです」。

ブレイヤー氏によると、これまでのところiBorderCtrlに関して唯一開示されているのはそのシステムの技術仕様の一部と通信レポートの一部のみで、同氏はどちらも「大幅に修正されている」と述べている。

「REAは、例えば、このシステムを導入した国境機関も、このプロジェクトに関与している政治家も明らかにしていません」とブレイヤー氏は語る。「興味深いのは、EUから資金提供を受けたこのプロジェクトの一環としてEUの国境当局や政治家に技術が披露されているということです。なぜこの点が興味深いのかというと、欧州委員会は、iBorderCtrlの目的の研究に限られるため、開発された技術が導入され、問題が起こるようなことはないと主張し続けているからです。しかし実際のところ、REAはすでにプロジェクトを利用して技術の導入と販売を推進しているのです。そしてたとえこの技術がEU国境で使用されることはないとしても、開発に資金を提供するということは、他の政府で使用される可能性があります。つまり、中国やサウジアラビアといった国々に販売されることもあり得るということです」。

「また、虚偽検出技術を販売している会社（マンチェスターに拠点を置くSilent Talker Ltd）は、この技術を保険会社に提供したり、就職面接で利用できるかたちで販売したりしています。銀行もローン申請の際にこの技術を利用することがあるかもしれません。つまりAIシステムは嘘を見抜けると信じられているため、虚偽検出技術が民間企業で広く使われるリスクがあるということです。まったく信頼性に欠ける虚偽検出技術でうそを見抜こうとすることはいわばギャンブルであり、この怪しげな技術のせいで多くの人が不利益を被るリスクがあります」。

「EUがそのような『インチキ』技術に資金提供することを誰も阻止しないというのは言語道断です」とブレイヤー氏は語る。

欧州委員会は「The Intelligent Portable Border Control System（インテリジェント・ポータブル・ボーダー・コントロール・システム、iBorderCtrl）」の研究では「陸路での国境検問の効率性、利便性、安全性を高めるための新しいアイデアを探求した」と述べ、他のセキュリティ研究プロジェクトと同様「セキュリティの課題に対処するために、新しいアイデアや技術をテストすることを目的としている」とした。

「iBorderCtrlのプロジェクトに期待されていたのは、すぐに実用化できる技術や製品を提供することではなかった。すべての研究プロジェクトが、実用化できる技術の開発につながるわけではない。研究プロジェクトが終了した後、さらに研究を進めるか、プロジェクトで研究対象となったソリューションの開発に着手するかどうかは、加盟国の判断に委ねられてる」とも述べている。

また、次世代技術の具体的な応用については「基本的権利や個人データの保護に関するEUの規則を含むEU法と国内法、保護条項を常に遵守しなければならない」とした。

しかしブレイヤー氏はまた、同委員会が「研究開発に過ぎない」「特定の技術についてその用途は定めていない」などと主張して、世間の目をそらせようとしているのはずる賢いと訴えている。「もちろん実際のところ欧州委員会は、開発された技術が有用であること、機能することが判明した場合、その技術に対して賛意を表明するよう議員に圧力をかけます」と同氏は主張する。「また、EU自体で使用されていなくても他の国に販売されることになるでしょう。だからこそ、この研究に対する監視と倫理的評価の欠如は本当にあってはならないことだと思います。特に公共の場での大規模な監視など、監視技術の開発と研究が繰り返し行われているため、とりわけそういえます」。

「欧州委員会はインターネットから大量にデータを収集して処理するプロジェクトを進めています。しかし、この研究はプライバシーの権利という基本的な権利への干渉に関するものであるため、同委員会のセキュリティに関する方針の欠陥が大きな問題となってきます」とブレイヤー氏は続ける。「その方針では、監視社会といった非倫理的な方法を禁止する制限が定められていません。またそうした物理的な制限のみならず、倫理面で問題のあるプロジェクトを端から排除できる制度上の仕組みもありません。そして倫理面で問題のあるプログラムが考案され開始されると、同委員会はプログラムに関する情報を公開することすら拒否するでしょう。そのようなことは本当に言語道断であり、さきほども言ったように、裁判所が適切なバランスを取ってより多くの情報が開示されるようになり、それによって我々は、こういった研究計画の成り立ちについて、公開討論を実施できるようになって欲しいと願っています」。

ブレイヤー氏は、防衛研究開発基金を設立しようとする、欧州委員会の計画について再び言及した。この基金は、虚偽検出技術の場合と同様、産業中心の意思決定構造と「欠陥のある倫理評価メカニズム」の下で運営されていく。自律型兵器に資金を提供できるEUの研究には制限があるものの、大量破壊兵器や核兵器など、他の分野では公的資金の投入を申請できると指摘している。

「ですから、これは非常に大きな問題となるでしょうし、当然、これまでにも増して同じような透明性の問題が出てくるでしょう」と同氏は付け加える。

透明性全般に関して、欧州委員会は「可能な限り成果を公表するよう、プロジェクトに常に促している」とTechCrunchに述べた。特にiBorderCtrlについては、CORDDIS（コミュニティの研究開発情報サービス）ウェブサイトと専用ウェブサイトでプロジェクトに関する詳細な情報が提供されているとのことだ。

iBorderCtrlのウェブサイト内「publications（資料）」ページをじっくり閲覧すると「ethics advisor（倫理アドバイザー）」「ethic’s advisor’s first report（倫理アドバイザーによる第一次報告）」、「ethics of profiling, the risk of stigmatization of individuals and mitigation plan（プロファイリングの倫理、個人の不名誉のリスク、およびそのリスクの軽減計画）」「EU wide legal and ethical review report（EU全体の法・倫理審査報告書）」など、多くの「deliverables（成果物）」が見つかる。これらはすべて「confidential（機密）」としてリストされている。

画像クレジット：mark6mauno / Flickr under a license.

【原文】

A legal challenge was heard today in Europe’s Court of Justice in relation to a controversial EU-funded research project using artificial intelligence for facial “lie detection” with the aim of speeding up immigration checks.

The transparency lawsuit against the EU’s Research Executive Agency (REA), which oversees the bloc’s funding programs, was filed in March 2019 by Patrick Breyer, MEP of the Pirate Party Germany and a civil liberties activist — who has successfully sued the Commission before over a refusal to disclose documents.

He’s seeking the release of documents on the ethical evaluation, legal admissibility, marketing and results of the project. And is hoping to set a principle that publicly funded research must comply with EU fundamental rights — and help avoid public money being wasted on AI “snake oil” in the process.

“The EU keeps having dangerous surveillance and control technology developed, and will even fund weapons research in the future, I hope for a landmark ruling that will allow public scrutiny and debate on unethical publicly funded research in the service of private profit interests”, said Breyer in a statement following today’s hearing. “With my transparency lawsuit, I want the court to rule once and for all that taxpayers, scientists, media and Members of Parliament have a right to information on publicly funded research — especially in the case of pseudoscientific and Orwellian technology such as the ‘iBorderCtrl video lie detector’.”

The court has yet to set a decision date on the case but Breyer said the judges questioned the agency “intensively and critically for over an hour” — and revealed that documents relating to the AI technology involved, which have not been publicly disclosed but had been reviewed by the judges, contain information such as “ethnic characteristics”, raising plenty of questions.

The presiding judge went on to query whether it wouldn’t be in the interests of the EU research agency to demonstrate that it has nothing to hide by publishing more information about the controversial iBorderCtrl project, per Breyer.

AI ‘lie detection’

The research in question is controversial because the notion of an accurate lie detector machine remains science fiction, and with good reason: There’s no evidence of a “universal psychological signal” for deceit.

Yet this AI-fuelled commercial R&D “experiment” to build a video lie detector — which entailed testers being asked to respond to questions put to them by a virtual border guard as a webcam scanned their facial expressions and the system sought to detect what an official EC summary of the project describes as “biomarkers of deceit” in an effort to score the truthfulness of their facial expressions (yes, really?‍♀️) — scored over €4.5 million/$5.4 million in EU research funding under the bloc’s Horizon 2020 scheme.

The iBorderCtrl project ran between September 2016 and August 2019, with the funding spread between 13 private or for-profit entities across a number of Member States (including the U.K., Poland, Greece and Hungary).

Public research reports the Commission said would be published last year, per a written response to Breyer’s questions challenging the lack of transparency, do not appear to have seen the light of day yet.

Back in 2019 The Intercept was able to test out the iBorderCtrl system for itself. The video lie detector falsely accused its reporter of lying — judging she had given four false answers out of 16, and giving her an overall score of 48, which it reported that a policeman who assessed the results said triggered a suggestion from the system she should be subject to further checks (though was not as the system was never run for real during border tests).

The Intercept said it had to file a data access request — a right that’s established in EU law — in order to obtain a copy of the reporter’s results. Its report quoted Ray Bull, a professor of criminal investigation at the University of Derby, who described the iBorderCtrl project as “not credible” — given the lack of evidence that monitoring microgestures on people’s faces is an accurate way to measure lying.

“They are deceiving themselves into thinking it will ever be substantially effective and they are wasting a lot of money. The technology is based on a fundamental misunderstanding of what humans do when being truthful and deceptive”, Bull also told it.

The notion that AI can automagically predict human traits if you just pump in enough data is distressingly common — just look at recent attempts to revive phrenology by applying machine learning to glean “personality traits” from face shape. So a face-scanning AI “lie detector” sits in a long and ignoble anti-scientific “tradition”.

In the 21st century it’s frankly incredible that millions of euros of public money are being funnelled into rehashing terrible old ideas — before you even consider the ethical and legal blindspots inherent in the EU funding research that runs counter to fundamental rights set out in the EU’s charter. When you consider all the bad decisions involved in letting this fly it looks head-hangingly shameful.

The granting of funds to such a dubious application of AI also appears to ignore all the (good) research that has been done showing how data-driven technologies risk scaling bias and discrimination.

We can’t know for sure, though, because only very limited information has been released about how the consortia behind iBorderCtrl assessed ethics considerations in their experimental application — which is a core part of the legal complaint.

The challenge in front of the European Court of Justice in Luxembourg poses some very awkward questions for the Commission: Should the EU be pouring taxpayer cash into pseudoscientific “research”? Shouldn’t it be trying to fund actual science? And why does its flagship research program — the jewel in the EU crown — have so little public oversight?

The fact that a video lie detector made it through the EU’s “ethics self-assessment” process, meanwhile, suggests the claimed “ethics checks” aren’t worth a second glance.

“The decision on whether to accept [an R&D] application or not is taken by the REA after Member States representatives have taken a decision. So there is no public scrutiny, there is no involvement of parliament or NGOs. There is no [independent] ethics body that will screen all of those projects. The whole system is set up very badly”, says Breyer.

“Their argument is basically that the purpose of this R&D is not to contribute to science or to do something for public good or to contribute to EU policies but the purpose of these programs really is to support the industry — to develop stuff to sell. So it’s really supposed to be an economical program, the way it has been devised. And I think we really actually need a discussion about whether this is right, whether this should be so”.

“The EU’s about to regulate AI and here it is actually funding unethical and unlawful technologies”, he adds.

No external ethics oversight

Not only does it look hypocritical for the EU to be funding rights-hostile research but — critics contend — it’s a waste of public money that could be spent on genuinely useful research (be it for a security purpose or, more broadly, for the public good; and for furthering those “European values” EU lawmakers love to refer to).

“What we need to know and understand is that research that will never be used because it doesn’t work or it’s unethical or it’s illegal, that actually wastes money for other programs that would be really important and useful”, argues Breyer.

“For example in the security program you could maybe do some good in terms of police protective gear. Or maybe in terms of informing the population in terms of crime prevention. So you could do a lot of good if these means were used properly — and not on this dubious technology that will hopefully never be used”.

The latest incarnation of the EU’s flagship research and innovation program, which takes over from Horizon 2020, has a budget of ~€95.5 billion for the 2021-2027 period. And driving digital transformation and developments in AI are among the EU’s stated research funding priorities. So the pot of money available for “experimental” AI looks massive.

But who will be making sure that money isn’t wasted on algorithmic snake oil — and dangerous algorithmic snake oil in instances where the R&D runs so clearly counter to the EU’s own charter of fundamental human rights?

The European Commission declined multiple requests for spokespeople to talk about these issues but it did send some on the record points (below), and some background information regarding access to documents which is a key part of the legal complaint.

Among the Commission’s on the record statements on “ethics in research”, it started with the claim that “ethics is given the highest priority in EU funded research”.

“All research and innovation activities carried out under Horizon 2020 must comply with ethical principles and relevant national, EU and international law, including the Charter of Fundamental Rights and the European Convention on Human Rights”, it also told us, adding: “All proposals undergo a specific ethics evaluation which verifies and contractually obliges the compliance of the research project with ethical rules and standards”.

It did not elaborate on how a “video lie detector” could possibly comply with EU fundamental rights — such as the right to dignity, privacy, equality and non-discrimination.

And it’s worth noting that the European Data Protection Supervisor (EDPS) has raised concerns about misalignment between EU-funded scientific research and data protection law, writing in a preliminary opinion last year: “We recommend intensifying dialogue between data protection authorities and ethical review boards for a common understanding of which activities qualify as genuine research, EU codes of conduct for scientific research, closer alignment between EU research framework programmes and data protection standards, and the beginning of a debate on the circumstances in which access by researchers to data held by private companies can be based on public interest”.

On the iBorderCtrl project specifically the Commission told us that the project appointed an ethics advisor to oversee the implementation of the ethical aspects of research “in compliance with the initial ethics requirement”. “The advisor works in ways to ensure autonomy and independence from the consortium”, it claimed, without disclosing who the project’s (self-appointed) ethics advisor is.

“Ethics aspects are constantly monitored by the Commission/REA during the execution of the project through the revision of relevant deliverables and carefully analysed in cooperation with external independent experts during the technical review meetings linked to the end of the reporting periods”, it went on, adding that: “A satisfactory ethics check was conducted in March 2019”.

It did not provide any further details about this self-regulatory “ethics check”.

“The way how it works so far is basically some expert group that the Commission sets up with propose/call for tender”, says Breyer, discussing how the EU’s research program is structured. “It’s dominated by industry experts, it doesn’t have any members of parliament in there, it only has — I think — one civil society representative in it, so that’s falsely composed right from the start. Then it goes to the Research Executive Agency and the actual decision is taking by representatives of the Member States.

“The call [for research proposals] itself doesn’t sound so bad if you look it up — it’s very general — so the problem really was the specific proposal that they proposed in response to it. And these are not screened by independent experts, as far as I understand it. The issue of ethics is dealt with by self assessment. So basically the applicant is supposed to indicate whether there is a high ethical risk involved in the project or not. And only if they indicate so will experts — selected by the REA — do an ethics assessment.

“We don’t know who’s been selected, we don’t know their opinions — it’s also being kept secret — and if it turns out later that a project is unethical it’s not possible to revoke the grant”.

The hypocrisy charge comes in sharply here because the Commission is in the process of shaping risk-based rules for the application of AI. And EU lawmakers have been saying for years that artificial intelligence technologies need “guardrails” to make sure they’re applied in line with regional values and rights.

Commission EVP Margrethe Vestager has talked about the need for rules to ensure artificial intelligence is “used ethically” and can “support human decisions and not undermine them”, for example.

Yet EU institutions are simultaneously splashing public funds on AI research that would clearly be unlawful if implemented in the region, and which civil society critics decry as obviously unethical given the lack of scientific basis underpinning “lie detection”.

In an FAQ section of the iBorderCtrl website, the commercial consortia behind the project concedes that real-world deployment of some of the technologies involved would not be covered by the existing EU legal framework — adding that this means “they could not be implemented without a democratic political decision establishing a legal basis”.

Or, put another way, such a system would be illegal to actually use for border checks in Europe without a change in the law. Yet European taxpayer funding was nonetheless ploughed in.

A spokesman for the EDPS declined to comment on Breyer’s case specifically but he confirmed that its preliminary opinion on scientific research and data protection is still relevant.

He also pointed to further related work which addresses a recent Commission push to encourage pan-EU health data sharing for research purposes — where the EDPS advises that data protection safeguards should be defined “at the outset” and also that a “thought through” legal basis should be established ahead of research taking place.

“The EDPS recommends paying special attention to the ethical use of data within the [health data sharing] framework, for which he suggests taking into account existing ethics committees and their role in the context of national legislation”, the EU’s chief data supervisor writes, adding that he’s “convinced that the success of the [health data sharing plan] will depend on the establishment of a strong data governance mechanism that provides for sufficient assurances of a lawful, responsible, ethical management anchored in EU values, including respect for fundamental rights”.

tl;dr: Legal and ethical use of data must be the DNA of research efforts — not a check-box afterthought.

Unverifiable tech

In addition to a lack of independent ethics oversight of research projects that gain EU funding, there is — currently and worryingly for supposedly commercially minded research — no way for outsiders to independently verify (or, well, falsify) the technology involved.

In the case of the iBorderCtrl tech no meaningful data on the outcomes of the project has been made public and requests for data sought under freedom of information law have been blocked on commercial interest grounds.

Breyer has been trying without success to obtain information about the results of the project since it finished in 2019. The Guardian reported in detail on his fight back in December.

Under the legal framework wrapping EU research he says there’s only a very limited requirement to publish information on project outcomes — and only long after the fact. His hope is thus that the Court of Justice will agree “commercial interests” can’t be used to over-broadly deny disclosure of information in the public interest.

“They basically argue there is no obligation to examine whether a project actually works so they have the right to fund research that doesn’t work”, he tells TechCrunch. “They also argue that basically it’s sufficient to exclude access if any publication of the information would damage the ability to sell the technology — and that’s an extremely wide interpretation of commercially sensitive information.

“What I would accept is excluding information that really contains business secrets like source code of software programs or internal calculations or the like. But that certainly shouldn’t cover, for example, if a project is labelled as unethical. It’s not a business secret but obviously it will harm their ability to sell it — but obviously that interpretation is just outrageously wide”.

“I’m hoping that this [legal action] will be a precedent to clarify that information on such unethical — and also unlawful if it were actually used or deployed — technologies, that the public right to know takes precedence over the commercial interests to sell the technology”, he adds. “They are saying we won’t release the information because doing so will diminish the chances of selling the technology. And so when I saw this then I said well it’s definitely worth going to court over because they will be treating all requests the same”.

Civil society organizations have also been thwarted in attempts to get detailed information about the iBorderCtrl project. The Intercept reported in 2019 that researchers at the Milan-based Hermes Center for Transparency and Digital Human Rights used freedom of information laws to obtain internal documents about the iBorderCtrl system, for example, but the hundreds of pages they got back were heavily redacted — with many completely blacked out.

“I’ve heard from [journalists] who have tried in vain to find out about other dubious research projects that they are massively withholding information. Even stuff like the ethics report or the legal assessment — that’s all stuff that doesn’t contain any commercial secrets, as such”, Breyer continues. “It doesn’t contain any source code, nor any sensitive information — they haven’t even released these partially.

“I find it outrageous that an EU authority [the REA] will actually say we don’t care what the interest is in this because as soon as it could diminish sales then we will withhold the information. I don’t think that’s acceptable, both in terms of taxpayers’ interests in knowing about what their money is being used for but also in terms of the scientific interest in being able to test/to verify these experiments on the so called ‘deception detection’ — which is very contested if it really works. And in order to verify or falsify it scientists of course need to have access to the specifics about these trials.

“Also democratically speaking if ever the legislator wants to decide on the introduction of such a system or even on the framing of these research programs we basically need to know the details — for example what was the number of false positives? How well does it really work? Does it have a discriminatory effect because it works less well on certain groups of people such as facial recognition technology. That’s all stuff that we really urgently need to know”.

Regarding access to documents related to EU-funded research the Commission referred us to Regulation no. 1049/2001 — which it said “lays down the general principles and limits” — though it added that “each case is analysed carefully and individually”.

However the Commission’s interpretation of the regulations of the Horizon program appears to entirely exclude the application of the freedom of information — at least in the iBorderCtrl project case.

Per Breyer, they limit public disclosure to a summary of the research findings — that can be published some three or four years after the completion of the project.

“You’ll see an essay of five or six pages in some scientific magazine about this project and of course you can’t use it to verify or falsify the technology”, he says. “You can’t see what exactly they’ve been doing — who they’ve been talking to. So this summary is pretty useless scientifically and to the public and democratically and it takes ages. So I hope that in the future we will get more insight and hopefully a public debate”.

The EU research program’s legal framework is secondary legislation. So Breyer’s argument is that a blanket clause about protecting “commercial interests” should not be able to trump fundamental EU rights to transparency. But of course it will be up to the court to decide.

“I think I stand some good chance especially since transparency and access to information is actually a fundamental right in the EU — it’s in the EU charter of fundamental rights. And this Horizon legislation is only secondary legislation — they can’t deviate from the primary law. And they need to be interpreted in line with it”, he adds. “So I think the court will hopefully say that this is applicable and they will do some balancing in the context of the freedom of information which also protects commercial information but subject to prevailing public interests. So I think they will find a good compromise and hopefully better insight and more transparency.

“Maybe they’ll blacken out some parts of the document, redact some of it but certainly I hope that in principle we will get access to that. And thereby also make sure that in the future the Commission and the REA will have to hand over most of the stuff that’s been requested on this research. Because there’s a lot of dubious projects out there”.

A better system of research project oversight could start by having the committee that decides on funding applications not being comprised of mostly industry and EU Member State representatives (who of course will always want EU cash to come to their region) — but also parliamentary representatives, more civil society representatives and scientists, per Breyer.

“It should have independent participants and those should be the majority”, he says. “That would make sense to steer the research activities in the direction of public good, of compliance with our values, of useful research — because what we need to know and understand is research that will never be used because it doesn’t work or it’s unethical or it’s illegal, that wastes money for other programs that would be really important and useful”.

He also points to a new EU research program being set up that’s focused on defence — under the same structure, lacking proper public scrutiny of funding decisions or information disclosure, noting: “They want to do this for defence as well. So that will be even about lethal technologies”.

To date the only disclosures around iBorderCtrl have been a few parts of the technical specifications of its system and some of a communications report, per Breyer, who notes that both were “heavily redacted”.

“They don’t say for example which border agencies they have introduced this system to, they don’t say which politicians they’ve been talking to”, he says. “The interesting thing actually is that part of this funding is also presenting the technology to border authorities in the EU and politicians. Which is very interesting because the Commission keeps saying look this is only research; it doesn’t matter really. But in actual fact they are already using the project to promote the technology and the sales of it. And even if this is never used at EU borders funding the development will mean that it could be used by other governments — it could be sold to China and Saudi Arabia and the like.

“And also the deception detection technology — the company that is marketing it [a Manchester-based company called Silent Talker Ltd] — is also offering it to insurance companies, or to be used on job interviews, or maybe if you apply for a loan at a bank. So this idea that an AI system would be able to detect lies risks being used in the private sector very broadly and since I’m saying that it doesn’t work at all and it’s basically a lottery lots of people risk having disadvantages from this dubious technology”.

“It’s quite outrageous that nobody prevents the EU from funding such ‘voodoo’ technology”, he adds.

The Commission told us that “The Intelligent Portable Border Control System” (aka iBorderCtrl ) “explored new ideas on increasing efficiency, convenience and security of land border crossing”, and like all security research projects it was “aimed at testing new ideas and technologies to address security challenges”.

“iBorderCtrl was not expected to deliver ready-made technologies or products. Not all research projects lead to the development of technologies with real-world applications. Once research projects are over, it is up to Member States to decide whether they want to further research and/or develop solutions studied by the project”, it also said. 

It also pointed out that specific application of any future technology “will always have to respect EU and national law and safeguards, including on fundamental rights and the EU rules on the protection of personal data”.

However, Breyer also calls foul on the Commission seeking to deflect public attention by claiming ‘it’s only R&D’ or that it’s not deciding on the use of any particular technology. “Of course factually it creates pressure on the legislator to agree to something that has been developed if it turns out to be useful or to work”, he argues. “And also even if it’s not used by the EU itself it will be sold somewhere else — and so I think the lack of scrutiny and ethical assessment of this research is really scandalous. Especially as they have repeatedly developed and researched surveillance technologies — including mass surveillance of public spaces”.

“They have projects on Internet on bulk data collection and processing of Internet data. The security program is very problematic because they do research into interferences with fundamental rights — with the right to privacy”, he goes on. “There are no limitations really in the program to rule out unethical methods of mass surveillance or the like. And not only are there no material limitations but also there is no institutional set-up to be able to exclude such projects right from the beginning. And then even once the programs have been devised and started they will even refuse to disclose access to them. And that’s really outrageous and as I said I hope the court will do some proper balancing and provide for more insight and then we can basically trigger a public debate on the design of these research schemes”.

Pointing again to the Commission’s plan to set up a defence R&D fund under the same industry-centric decision-making structure — with a “similarly deficient ethics appraisal mechanism” — he notes that while there are some limits on EU research being able to fund autonomous weapons, other areas could make bids for taxpayer cash — such as weapons of mass destruction and nuclear weapons.

“So this will be hugely problematic and will have the same issue of transparency, all the more of course”, he adds.

On transparency generally, the Commission told us it “always encourages projects to publicise as much as possible their results”. While, for iBorderCtrl specifically, it said more information about the project is available on the CORDIS website and the dedicated project website.

If you take the time to browse to the “publications” page of the iBorderCtrl website you’ll find a number of “deliverables” — including an “ethics advisor”; the “ethic’s advisor’s first report”; an “ethics of profiling, the risk of stigmatization of individuals and mitigation plan”; and an “EU wide legal and ethical review report” — all of which are listed as “confidential”.

（文：Natasha Lomas、翻訳：Dragonfly）

Political union - Wikipedia

A political union is a type of state which is composed of or created out of smaller states.The process of creating such a state out of smaller states is called unification.Unification of states that used to be together and are reuniting is referred to as reunification. Unlike a personal union or real union, the individual states share a central government and the union is recognized ...

Exchange Rate Average (US Dollar, Euro) - X-Rates

View the monthly rate average for US Dollar to Euro.

Germany Coronavirus: 2,444,177 Cases and 70,589 Deaths ...

Germany Coronavirus update with statistics and graphs: total and new cases, deaths per day, mortality and recovery rates, current active cases, recoveries, trends and timeline.

SICAS Home

Welcome to the SICAS Center. The SUNY SICAS Program supports the administrative software, service and training needs for campuses using offerings from Ellucian's™ product line.

University of Connecticut | Waterbury

Our Campus Your best is about to get even better. At UConn Waterbury, you’ll get all the benefits of a prestigious public research university in a small college setting. For more than 70 years, UConn Waterbury has opened the doors to educational access and excellence for thousands of Connecticut ...

Average human height by country - Wikipedia

Accuracy. As with any statistical data, the accuracy of such data may be questionable for various reasons: Some studies may allow subjects to self-report values. Generally speaking, self-reported height tends to be taller than its measured height, although the overestimation of height depends on the reporting subject's height, age, gender and region.

Aquinas College

Aquinas College, an inclusive educational community rooted in the Catholic and Dominican tradition, provides a liberal arts education with a global perspective, emphasizes career preparation focused on leadership and service to others, and fosters a commitment to lifelong learning dedicated to the pursuit of truth and the common good.

Home - STMicroelectronics

STMicroelectronics is a leading Integrated Device Manufacturer delivering solutions that are key to Smart Driving, Smart Industry, Smart Home & City and Smart Things.

English - PEDro

Welcome to the "You Ask #PEDroAnswers" campaign to develop your searching skills. The "You Ask #PEDroAnswers" campaign is designed to encourage physiotherapists to develop their searching skills and perform more database searching to find high-quality research to inform practice. In this campaign we will help you to improve your searching skills using the PEDro Advanced Search.

PowerOutage.US

PowerOutage.US is an ongoing project created to track, record, and aggregate power outages across the united states.

Current UTC — Coordinated Universal Time

Current local time in UTC. See a clock with the accurate time and find out where it is observed.

EU countries recommend tightening travel restrictions due ...

The 27 EU countries recommended tightening travel restrictions on Friday, including discourage all non-essential trips from and to areas with high COVID-19 infection rates. The non-binding recommendations follow a proposal by the European Commission and set out the union's general approach to travel within the bloc.

Euphoria by Calvin Klein - Buy online | Perfume.com

Euphoria by Calvin Klein Cologne. Euphoria for men by Calvin Klein is a crisp and commanding scent with an aroma that fully embodies the Ck style.

Bill Gates and George Soros are targets of another COVID ...

There’s no evidence that Bill Gates and George Soros plan to microchip people being tested for coronavirus.

Discount Perfume & Cologne - Free Shipping | FragranceX.com

Discount perfume, cologne, after shave, body lotion, and more! Up to 80% off authentic fragrances from top brands. Free shipping on orders over $35.

Magic Online Price List | Standard - MTGGoldfish

All emails include an unsubscribe link. You may opt-out at any time. See our privacy policy.. Follow Us. Toggle Dark Mode Toggle Dark Mode Price Preference Default Price Switcher

European Union nations halt UK flights fearing new virus ...

BERLIN: One by one, several European Union nations banned flights from the UK on Sunday and others were considering such action, all in hopes of blocking

Europe - Conferences & Events

Regional Head of Conferences and Events Communications, Region UK, MENA, Nordic, Southern and Western Europe* Deutsche Bank, London Tel: +44 (0)20 7545 7956

Michael Gove says EU Ireland talks 'far from resolved ...

The Secretary of the Duchy of Lancaster was also questioned on what might have pushed the European Union to trigger Article 16 while bypassing its own rules on notifying the UK about the decision. Mr Gove said he could only speculate about the reasoning behind the move but insisted Brusssels owed EU citizens an "explanation" for threatening ...

Easyview Channels Down Again - TV Not Working | Spain's News

Todos los artículos son traducidos de la fuente original. Operamos un servicio de traducción para ayudar a las personas de habla inglesa en España a comprender lo que está sucediendo en toda España.

Spectacular Modern Greek House Nominated for EU Award

The "Lap Pool House," a modern house built on a slope of the Cycladic island of Tinos, is nominated for a prestigious award for Architecture.

EU Grants Promote Use of LNG as Transportation Fuel ...

The European Union (EU) has approved grants for its member states to increase the use of liquefied natural gas (LNG) as a transportation fuel for ships,

www.onelife.eu # One Life

noelife.eu: oenlife.eu: onleife.eu: oneilfe.eu: onelfie.eu: onelief.eu: onelif.eeu: onelifee.u: onelife.ue: nonelife.eu: oenelife.eu: onlelife.eu: oneilife.eu ...

India, EU hold high-level dialogue, discuss ways to ...

NEW DELHI:   India and the European Union (EU) have held the first high level dialogue (HLD) and discussed ways to promote bilateral trade and

Anesthesiology Conferences, Seminars & CME - Search Events ...

Anesthesiology and CME Conferences. The leading source for worldwide conferences and continuing medical education courses. Search our database for national and international conferences, CME opportunities, speakers, and news to efficiently find the events and information that meet your professional needs—all in one place.

KU Leuven - CATCHY - European Training Network

KU Leuven is the largest university in Belgium in terms of research funding (EUR 475 million) and number of students. It is a charter member …

欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト | TechCrunch Japan

EU出資の研究プロジェクトが議論の的になっている。そしてこのプロジェクトに関して2021年2月初旬、欧州司法裁判所で法的な異議申し立てが行われた。プロジェクトの目的はというと、顔の表情に基づく「うそ発見」に人工知能を使用して入国審査をスピードアップすることである。

欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト | TechCrunch Japan ...

あなたはどう思う？みんなのコメントからニュースをより深く読み解こう：欧州司法裁判所で異議申立てされた「オーウェル的」AIうそ発見器プロジェクト | TechCrunch Japan

優しい嘘 (やさしいうそ)とは【ピクシブ百科事典】

優しい嘘がイラスト付きでわかる！ 誰も傷付かないためのウソ 「嘘には二種類ある…人を傷つける嘘と、優しい嘘……」 概要 自分が利益を得るためでなく、相手が傷付かないように思いやって吐(ﾂ)かれる嘘のこと。 所謂必要悪のこと。 関連タグ 嘘 嘘つき 偽り 嘘も方便 必要悪 世界一優しい嘘つき ガードノイド・ガッシュ:「優しい嘘」を最後についた主君

「恋心」を刑事が利用、生み出されたうその「自白」 冤罪生み出した「黒い正義」～湖東記念病院再審から考える｜社会｜地域 ...

「アラームは鳴っていた」。２００４年５月１０日、愛知川署（滋賀県愛知川町、現愛荘町）の一室。任意の事情聴取を受けていた西山美香さん（４０）…

本当にこの値段でいいんですか…⁉【3COINS】のモバイルグッズに大注目の訳!! - コラム - 緑のgoo

我が家のスマホは、主人とわたしがiPhone、娘はAndroid。機種の違いで、充電するときのコネクターが違います。娘は持っていた充電ケーブルが壊れてしまい、ゲーム機の充電ケーブルを使用中。こんなとき、iPhoneもAn…

「冤罪、滋賀県警の責任を追及したい」 湖東病院患者死亡で再審開始前に西山さん｜社会｜地域のニュース｜京都新聞

「うその自白」をもとに、２４歳で逮捕されてから１５年余り。西山美香さん（４０）＝滋賀県彦根市＝は３日、再審の初公判を迎える。汚名が晴れる瞬…

専門家の予測 パンデミック 新型コロナウイルス収束はいつ頃 - Sputnik 日本

世界中で感染拡大が続くコロナウイルスCOVID-19の収束に関し、ロシアの連邦基礎・探査医療研究センター実験・感染症病原部長のアレクサンドル・シェストパロフ氏は、状態が落ち着くのは6月か7月だろうとの見解を示した。

佐藤勝明先生の「おくのほそ道」 | 第7官界彷徨 - 楽天ブログ

その彼の日記が昭和18年に発見され、その中には同じ日の克明な記述もあり、曾良書き留め（日記）により、おくのほそ道研究が進展しました。 ... たとえば「春雨」はうそさびしくしずかに長々と降る、なんて書いてあって ... ＊五月雨に世界や水の器 ...

聞いてみました!ハーフの日本人は何を考えているのか？「久しぶりに聞いた最高の言葉だ」「アメリカでは誰もが平等に差別さ ...

欧州司法裁判所で異議申立てされた「オーウェル的」aiうそ発見器プロジェクト 投稿日 2021年3月1日 20:30:14 （ニュース） 外国人「君の国でこんなの想像できる？

卒業式で役立つ商品を紹介!福岡でレンタルしませんか？ | 福岡イベント会社

今回は卒業式で役立つ商品をご紹介！！ 入学式でも活躍すると思います。学校だけでなく、会社で表彰式などを実施する予定がある方は是非ご覧ください★

ローソンベーカリー バブカ 食べてみた! | 美味しいスイーツ発見

ローソンのバブカはデニッシュ生地にチョコレートとシナモン、 バターを練りこんだ甘いパンです。 個人的にはちょっとナッツがザクザク入ってい...Source: Google-チョコレート

キテレツ大百科 (アニメ) - Wikipedia

概要. 藤子アニメ作品としてフジテレビ系列では初となる作品で、1987年 11月2日に90分の単発のテレビスペシャル版として放送された。 翌1988年 3月27日からほぼ同一のスタッフ、キャストで毎週日曜19:00からテレビシリーズが、スペシャル版と同じくフジテレビ系で放送され、1996年 6月9日の終了 ...

「ずぼら女子必見」ダイソーで買える「美容アイテム」3選 | Trill【トリル】

チェックするたびに驚きの発明品が誕生しているダイソーで、またまた100均レベル越えの画期的なアイテムを発見!それがこちらの「回転式泡だて器」。持ち手をひねると、なんと平たくなるんです!これなら場所をとる泡だて器の収納も楽々。

上沼恵美子が後輩芸人の無礼な言動に怒り「意外に安いですね」 - ライブドアニュース

番組では、加藤浩次が憤慨した後輩からの無礼な一言を取り上げた。ご飯に行った後輩に金額を聞かれ、答えると「意外に安い」と言われたそう。これを聞き、上沼恵美子は「最低ーッ！！腹が立ちますよ」と怒った

★行ってきます♪の前にすること

<p style="text-align: center;">&nbsp;</p><p style="text-align: center;">おはようございます。</p><p style="text-align: center;"><a href="http://photostyling ...

おなかのハリの記事一覧｜ウーマンエキサイト(1/4)

「おなかのハリ」に関する記事一覧です。「おなかのハリ」について知りたいことや今話題の記事が見つかります。(1/4)

うつわ その2 〜優しい 時間〜 | ほしとたんぽぽ dandelionのブログ

久しぶりに 食器棚から こんなお皿を 見つけました。 この器も『私のたからもの』の一つ 近づいてみると、そこには…可愛い ウサギさんたちがい…

「産後の生理」いつ来る？ 赤ちゃんと一緒のお風呂のときどうする？（2021年2月28日）｜Biglobeニュース

産後の月経開始はいつぐらいになるかについては、ママからの相談が多い項目です。今回は、再開の時期やお子さんとお風呂に入る時などの準備についてお話していきます。母乳…（2021年2月28日 22時40分0秒）

#ミニチュアフード 人気記事（一般）｜アメーバブログ（アメブロ）

#ミニチュアフードに関する一般一般の人気記事です。'|'【ガチャレビュー】超リアル！缶入りクッキーマスコット TWEE (トイズスピリッツ)'|'粘土でアイシングクッキー♪アイシングの作り方にオススメな材料はどれ？'|'ミニチュアフード初心者にオススメな粘土3種類！ミニチュア歴5年以上の私の経験をもとに。'|'簡単♪ミニチュア「透明袋」の作り方。小さい袋から細い袋まで自由自在・応用可能！'|'6年生の工作「I am a Gourmet（アイ アム　ア グルメ）」その1

セクハラ疑惑 Ny州知事が謝罪 - スマムーブスマムーブ

スマムーブは、今日の出来事をスマートフォンで見る各ジャンルと各地域で話題の最新ニュースを迅速に更新して、読み ...

株式への投資名目で元本保証で損はさせませんとうそを言い現金をだまし取ったとして男（35歳）を逮捕 | 行方調査 ...

絶対損しないなんてことはない2月3日詐欺被疑者の逮捕【豊田警察署】株式への投資名目で、男性に対し、「元本保証で損はさせません。」「株の投資とか行います。」「絶対に損はさせません。」等とうそを言い、現金をだまし取ったとして男（35歳）を逮捕風営適正化法違反被... 探偵社ガルエージェンシー愛知豊田は豊田市、岡崎市、みよし市近辺の調査に特化して承ります。 人探し、行方不明の家族の行方調査、浮気や不倫の心配のある妻や夫の浮気調査 盗聴器や盗撮カメラの発見調査も格安対応中！ 全国に拠点がありますので他地域のご相談も承ります。 TEL.0565-63-5614

2100万円詐取か 「受け子」役の男を逮捕 容疑を認める（メ～テレ（名古屋テレビ））いわゆるオレオレ詐欺の手口で現金 ...

2100万円詐取か　「受け子」役の男を逮捕　容疑を認める（メ～テレ（名古屋テレビ））いわゆるオレオレ詐欺の手口で現金2100万円をだまし取った疑いで警察は男を逮捕しました。 　詐欺の疑いで逮捕されたのは山梨県…

【多気町】『Vison（ヴィソン）』のオープン日がついに発表!気になる日にちと内容は、こちら!（号外net）2021 ...

【多気町】『VISON（ヴィソン）』のオープン日がついに発表！気になる日にちと内容は、こちら！（号外NET）2021年春、多気町にオープン予定で話題の『VISON(ヴィソン)』の開業日が、ついに発表されました！『VISON（ヴィソン）』は、「三…

巨人・田口麗斗投手とヤクルト・廣岡大志内野手の1対1の交換トレードが本日成立したことが分かった 本日中に発表される ...

巨人・田口麗斗投手とヤクルト・廣岡大志内野手の1対1の交換トレードが本日成立したことが分かった 本日中に発表されるについての反応をまとめました。

Adobe Ai - YouTube

Learn Die line, Vector graphics, graph creation, layers, gradients, eye dropper, paint bucket, Photoshop pixel filters, rasterize, vertical text tool, pathf...

Adobe Illustrator - Wikipedia

represented by the letters Ai in white against an orange background (oranges and yellows were prominent color schemes in Illustrator branding going back as far as version 4.0).

AI File Extension - What is a .ai file and how do I open it?

Learn about .AI files and view a list of programs that open them.

Artificial Intelligence Solutions & Services - Microsoft AI

Learn how artificial intelligence solutions and services are changing industries around the world. See how you can leverage artificial intelligence with Microsoft AI.

GitHub - microsoft/AI: Microsoft AI

Microsoft AI. Contribute to microsoft/AI development by creating an account on GitHub.