人間が操り理解できる大型AIの条件を探るOpenAIメンバーが創設したAI研究機関「Anthropic」

今回は「人間が操り理解できる大型AIの条件を探るOpenAIメンバーが創設したAI研究機関「Anthropic」」についてご紹介します。

関連ワード （Anthropic、OpenAI、人工知能、資金調達等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

AIが物珍しい見世物のような研究プロジェクトの域を脱して、GPT-3のような業界の原動力になるほどの巨大な範型がいくつか登場してくるにともない、この分野にも進化が必要になってきた。そう考える元Open AIの研究担当副社長Dario Amodei（ダリオ・アモディ）氏は、数カ月前に彼自身の企業を立ち上げた。Anthropicと名づけたその企業は、彼の妹のDaniela（ダニエラ）氏が創業者で、人間による操作と理解が可能、そして堅牢な大規模AIシステムの開発を目指している。

アモディ氏らが取り組む目下の問題は、そうした極めて強力なAIシステムが、よく理解されないまま使われていることだ。彼らが関わったGPT-3も、驚くほど多彩な言語システムで、ほぼどのような話題に関するどのような文体のテキストでも、本物そっくりに作り出す。

関連記事：Copy.aiのAI利用記事作成システムは「使える」レベルの驚異的な出来、日本語も対応

シェイクスピアやアレクサンダー・ポープの作例を見せて、韻を踏む二行連句を作らせてみよう。AIはどうやってそれを作るのか？AIは何をどう「考えて」いるのか？もっと悲しくてあまりロマンチックでない詩を作らせるには、どのノブとダイヤルをどれだけ回せばよいのか？言葉遣いや使用する語彙を一定方向に制限するには、何をどうすればよいのか？確かに、人間が値を変えることができるパラメータは随所に用意されているだろう。でも実際には、この極めて本物っぽい言葉のソーセージがどのように作られているのか、誰もよく知らない。

AIがいつ詩を作れるようになるかはどうでもよいとしても、それが百貨店で怪しい行動をウォッチしたり、これから判決を言い渡そうとしている裁判官のために判例を見つける仕事ならどうか。今日の一般的なルールでは、システムが強力になればなるほど、その行動を説明するのは困難になる。しかしそれは、あまり良い傾向ではない。

同社の自社紹介文にはこう書かれている。「今日の大規模な汎用システムには有意義な利点もありますが、予測不可能で信頼性を欠き、不透明なこともあります。弊社の目標は、こういった問題に関して進歩を作り出すことです。当面の間、主にこの目標に向かう研究に力を入れますが、将来的には、私たちの仕事が商用的価値と公共的価値を作り出す多くの機会があると予見しています」。

Excited to announce what we’ve been working on this year – @AnthropicAI, an AI safety and research company. If you’d like to help us combine safety research with scaling ML models while thinking about societal impacts, check out our careers page https://t.co/TVHA0t7VLc

— Daniela Amodei (@DanielaAmodei) May 28, 2021

2021年は、AIの安全性を研究する@AnthropicAIで仕事をしてきたことを発表できてうれしい。安全性の研究とMLモデルのスケーリングを、社会的影響も考えながら組み合わせることに関して、私たちを助けたいという方は、弊社の求人ページanthropic.com/#careersをチェックしてください。

同社の目標は、今日の効率と処理能力が優先されるAIの開発に、安全性の原則を統合することのようだ。どんな産業でも、何かが最初から一体化されている方が、後から端っこにネジで取り付けるよりも簡単だ。今、存在する巨大なAIシステムを分解して理解しようとする試みは、構造の細部が最初からわかっているものを構築することと比べて、仕事量が膨大になるだろう。Anthropicは、後者を選んだようだ。

CEOのダリオ・アモディ氏は、同社とその1億2400万ドル（約136億2000万円）の資金調達を発表する短いポストで次のように述べている。「Anthropicの目標は、今よりも有能で汎用的で信頼性の高いAIシステムを開発し、それらを人びとのために展開していくための基礎研究の高度化していくことにある」。

その資金調達は、読者も予想したかもしれないが、投資家たちの顔ぶれが豪華だ。ラウンドをリードしたのはSkypeの共同創業者Jaan Tallinn（ジャン・タリン）氏、他にはInfotechのJames McClave（ジェームズ・マクレーブ）氏、FacebookやAsanaの共同創業者Dustin Moskovitz（ダスティン・モスコビッツ）氏、Googleの元CEOであるEric Schmidt（エリック・シュミット）氏、そしてCenter for Emerging Risk Researchなどの団体となる。

同社は公益法人であり、同社サイトの限られた情報によればその事業プランは、大型AIシステムの操作性と理解性の向上のための基礎研究となる。2021年中には、ミッションとチームが具体化し、初期的な成果が出るかもしれないため、より詳しい情報が得られるだろう。

ちなみに同社の社名は「anthropocentric（人間中心の）」に隣接したもので、人間の経験や存在との関連性を意味している。おそらく「anthropic principle（人間原理）」に由来するもので、宇宙に知的生命体が存在するのは、人間が存在するからだという考え方だ。適切な条件の下で知性が必然的に生まれるのであれば、企業はその条件を設定するだけでいい。

関連記事：GoogleのAIが新たなハイブリッド焼き菓子レシピを考案

画像クレジット：DKosig/Getty Images

【原文】

As AI has grown from a menagerie of research projects to include a handful of titanic, industry-powering models like GPT-3, there is a need for the sector to evolve — or so thinks Dario Amodei, former VP of research at OpenAI, who struck out on his own to create a new company a few months ago. Anthropic, as it’s called, was founded with his sister Daniela and its goal is to create “large-scale AI systems that are steerable, interpretable, and robust.”

The challenge the siblings Amodei are tackling is simply that these AI models, while incredibly powerful, are not well understood. GPT-3, which they worked on, is an astonishingly versatile language system that can produce extremely convincing text in practically any style, and on any topic.

But say you had it generate rhyming couplets with Shakespeare and Pope as examples. How does it do it? What is it “thinking”? Which knob would you tweak, which dial would you turn, to make it more melancholy, less romantic, or limit its diction and lexicon in specific ways? Certainly there are parameters to change here and there, but really no one knows exactly how this extremely convincing language sausage is being made.

It’s one thing to not know when an AI model is generating poetry, quite another when the model is watching a department store for suspicious behavior, or fetching legal precedents for a judge about to pass down a sentence. Today the general rule is: the more powerful the system, the harder it is to explain its actions. That’s not exactly a good trend.

“Large, general systems of today can have significant benefits, but can also be unpredictable, unreliable, and opaque: our goal is to make progress on these issues,” reads the company’s self-description. “For now, we’re primarily focused on research towards these goals; down the road, we foresee many opportunities for our work to create value commercially and for public benefit.”

The goal seems to be to integrate safety principles into the existing priority system of AI development that generally favors efficiency and power. Like any other industry, it’s easier and more effective to incorporate something from the beginning than to bolt it on at the end. Attempting to make some of the biggest models out there able to be picked apart and understood may be more work than building them in the first place. Anthropic seems to be starting fresh.

“Anthropic’s goal is to make the fundamental research advances that will let us build more capable, general, and reliable AI systems, then deploy these systems in a way that benefits people,” said Dario Amodei, CEO of the new venture, in a short post announcing the company and its $124 million in funding.

That funding, by the way, is as star-studded as you might expect. It was led by Skype co-founder Jaan Tallinn, and included James McClave, Dustin Moskovitz, Eric Schmidt and the Center for Emerging Risk Research, among others.

The company is a public benefit corporation, and the plan for now, as the limited information on the site suggests, is to remain heads-down on researching these fundamental questions of how to make large models more tractable and interpretable. We can expect more information later this year, perhaps, as the mission and team coalesces and initial results pan out.

The name, incidentally, is adjacent to anthropocentric, and concerns relevancy to human experience or existence. Perhaps it derives from the “Anthropic principle,” the notion that intelligent life is possible in the universe because… well, we’re here. If intelligence is inevitable under the right conditions, the company just has to create those conditions.

（文：Devin Coldewey、翻訳：Hiroshi Iwatani）

人工知能 - Wikipedia

人工知能 （じんこうちのう、 英: artificial intelligence 、 AI 〔エーアイ〕）とは、「『 計算 （ computation ）』という概念と『 コンピュータ （ computer ）』という道具を用いて『 知能 』を研究する 計算機科学 （ computer science ）の一分野」を指す語 。

人工知能（AI）とは？具体例付きでわかりやすく簡 …

人工知能(AI)とは何かについて、わかりやすく簡単に解説します！また、AIの誕生から現在のように発展するまでの歴史や、AIのレベル、機械学習まで触れていますので、初心者でも理解できるようになっています。この記事でAIについての理解を深めましょう！

人工知能のやさしい説明「What's AI」

人工知能（Artificial Intelligence; AI）とは何か，どんな人工知能研究が行われているのか，人工知能技術はどのように使われているのかといったことについての説明です．

人工知能・AIとは | 基本知識・歴史・未来 | Ledge.ai

AI（人工知能）とは、「Artificial Intelligence」の略称です。近年目覚ましい発展を遂げているAIは私たちの社会に身近な存在となった今だからこそ正しい理解が必要です。この記事では、機械学習・ディープラーニングなど人工知能の歴史、基本知識から、活用事例・未来への影響などを解説します。

人工知能（AI：Artificial Intelligence）とは？：AI・機械学習の ...

用語「人工知能」について説明。人間が行う「知的活動」をコンピュータプログラムとして実現することを指す。

総務省｜平成28年版 情報通信白書｜人工知能（AI）とは ...

イ 人工知能（AI）のイメージ このように、人工知能（AI）は私たちの日常の身近な商品・サービスに組み込まれはじめており、多くの人が人工知能（AI）を一度は使用したことがあるという時代が到来している。そんな中、一般的に人工知能（AI）とはどのようなものと認識されているのだろうか。

人工知能とは - コトバンク

日本大百科全書(ニッポニカ) - 人工知能の用語解説 - 概論人工知能は、「計算（computation）」という概念と「コンピュータ（computer）」という道具を用いて「知能」を研究する計算機科学（computer science）の一分野である。誤解を恐れず平易にいいかえるならば、「これまで人間にしかできなか...

人工知能（AI）とは？基礎知識や需要、将来性をわかりやすく ...

人工知能とは何なのか、あまり知らない方も多いですよね。そこでこの記事では、人工知能の基礎知識から作り方、学習方法まで解説します。ITに詳しくない方にもわかりやすく解説していますので、ぜひご覧ください。

AI(人工知能)の歴史｜時系列で簡単解説 | Ledge.ai

今では誰でも一度は耳にしたことあるAI(人工知能)も、ここまで認知されるまでに、姿形を変えながら壮大な歴史を歩んできました。本稿ではAIの誕生から現在に至るまでの歴史、そしてその未来の姿を実例を交えながら解説していきます。

身近で使われている人工知能の活用事例をご紹介！掃除機から ...

 · 人工知能に興味のある方も結構多いのではないでしょうか。しかし、具体的なところはよく分からないということもあるかもしれません。ここでは、人工知能の基礎知識や活用事例などについてご紹介していきます。

資金調達の方法一覧

資金調達の方法は、アセットファイナンス、デッドファイナンス、エクイティファイナンスに分けられます。資産の有無や望む現金化の形態に応じた選び方が求められます。会社にあった資金調達方法を実行することが大切です。

資金調達 - Wikipedia

資金調達（しきんちょうたつ、英: Funding; financing ）とは、事業に必要な資金を調達することをいう。 資金調達という用語は、政府組織、民間企業、個人事業主の事業などについて幅広く用いられ

資金調達とは？さまざまな資金調達方法と事業計画作成の ...

 · 資金調達とは、会社設立や事業に必要な資金を集めることです。資金調達にはさまざまな方法がありますが、どの方法を採るかにより担保や調達にかかる時間、金利などが大きく異なりますので、どこから資金を得るかを戦略的に考えることが

資金調達の基本！経営者が知っておくべき3つの方法

設備投資をするにしろ、新たな事業を始めるにしろ、資金調達は経営者にとって避けては通れない問題です。しかし資金調達の基本的な方法は3つしかありません。 それは「負債を増やす」「資本を増やす」「既存の資産の現金化」です。ここ […]

資金調達方法には何がある？資金調達方法35種類のメリット ...

資金調達方法には何がある？資金調達方法３５種類のメリットデメリット | 資金調達BANKは【資金調達の専門家】が銀行融資・公的融資（制度融資）・ビジネスローン・不動産担保ローン・ファクタリング・手形・助成金（補助金）・出資・株主割当・ベンチャーキャピタル・エンジェル・資産の売却・リースの活用など、様々な資金調達方法について、図解して丁寧に解説しています。資金調達方法の解説だけでなく、「資金繰りを改善するために何をすれば良いのか？」「融資審査に通らないときの対策」「資金繰りを悪化させないための収益性の高い経営方法」「起業直後でも利用できる補助金・助成金の取り方」「銀行融資を受ける交渉のコツ」など、実務的に役に立つ資金調達方法も紹介しています。資金調達・資金繰りに悩む経営者や経理・財務の方必見です！

スタートアップ起業家必見！おすすめの「資金調達方法」とは ...

スタートアップは、創業・新規事業展開・事業拡大にあたり、資金調達が不可欠です。 ただ、実績がないスタートアップが資金調達をするには、いったいどうすればよいでしょうか？ この記事では、スタートアップにおすすめの資金調達手段... スタートアップ企業の事業発展のためにはスムーズな資金調達が不可欠です。記事ではスタートアップにおすすめの資金調達手段や事業フェーズに応じた資金調達手段についてご紹介します。記事を読むことで資金調達を確実なものにして、安定的な経営を実現できます。

資金調達の種類とその特徴｜資金調達を成功させるポイントも ...

1 日前  · 「資金調達＝銀行融資」というイメージをお持ちの方も多いのではないでしょうか。 よくイメージされる銀行融資はポピュラーな資金調達方法ではありますが、これは数ある資金調達方法の内の1つにすぎません。 ひと口に資金調達と言っても実にさまざまな方法があります。

あなたはいくつ知っている？事業資金調達のための7つの方法 ...

事業を行っている方であれば、資金調達をしたい！と考える方も多いでしょう。 今回は、事業資金を調達するための７つの方法をご紹介致します。

資金調達の方法12種類まとめ！事業モデルや目的別の ... - LISKUL

資金調達について調べてみたものの、種類の多さにどれが最適なのか迷っている起業家の方も多いのではないでしょうか。本記事では、12種類の資金調達方法の概要やメリットを紹介するだけでなく、事業目的に合った方法を選べるように事例も挙げています。

資金調達にはどのようなやり方がある？最も適した方法を選び ...

多額の資金を必要とすることもあれば少額でもよいという場合もあるため、使途や目的に合った調達方法ややり方を選ぶべきです。そこで、資金を調達するやり方について、最適な方法を見つけるためにも徹底解説していきます。

創業・起業の資金調達方法11選！ 起業に使える資金調達の方 …

創業・起業して間もない場合、「資金を預けるべきか」を判断する信用情報が少ないため、起業に使える資金調達方法は限られています。 そのため、事業計画書を作成して審査を受ける必要があり、審査に通るかは「事業計画書の内容」で決まると言っても過言ではありません。 今回は、創業・起業に使える資金調達方法を11種類に分け

資金調達の種類、方法、メリット、デメリットまとめ【2020 …

起業を考えている方の大きな悩みになるのはやはり資金。最初は小さく事業をスタートしたとしても、事業が拡大していくにあたって資金が必要になったり、最初に投資をするような事業の場合には自己資金だけでは、なかなか事業が立ち上がらないということもあります。ここでは、資金調達の全体概要と、それぞれのメリット、デメリットなどを丁寧に解説したいと思います。

日本酒事業を運営する株式会社Clearが、総額12.95億円の ...

株式会社Clearのプレスリリース（2021年5月26日 09時14分）日本酒事業を運営する株式会社Clearが、総額12.95億円の資金調達を実施

個人事業主が知っておくべき資金調達と資金繰りの基礎知識 ...

個人事業主として事業を開始して、誰もが直面するのが資金調達の問題です。開業時にまとまった資金が必要な業種だけではなく、事業を運営する上で突発的に資金が必要になることもあります。また、資金ショートの危機に直面することもある...

資金調達｜中小機構 - smrj.go.jp

「資金調達」を掲載しています。中小機構は、中小企業政策の実施機関として、成長ステージや経営課題に応じた支援メニューで中小企業の成長をサポートします。

資金調達ナビ｜弥生株式会社

弥生株式会社が提供する「資金調達ナビ」は、事業者の資金調達を支援するために借入や補助金・助成金など、様々な手法を紹介するサイトです。スモールビジネス、小規模・中小企業の資金調達をサポートいたします。

【資金調達】デッドファイナンスの種類を知ろう【FP資格者が ...

今回は企業における資金調達方法の一つとして、借り入れを行うデットファイナンスの種類について解説しています。メリット・デメリットの他、エクイティファイナンスやその他の資金調達方法にも触れていますので、資金繰りで悩む前に必要な知識を補填しておきましょう！

返済しないでよい資金調達 補助金活用のメリットとデメリット ...

　補助金で調達した資金は、返済が不要！　一般に事業の資金調達は、純資産に入る「資本」の調達と、「借入金」の調達の二つの方法があります。「資本」の調達では、投資家から資金を調達しますが、これは、オーナーが知り合いに投資を頼め...

企業の資金調達の方法は？資金調達をする理由や株価に与える ...

企業経営には資金が必要ですが、常に資金を確保できている企業というのは少ないです。そのため多くの企業が資金調達を実行しており、実行した理由や結果によっては株価に影響を与えています。そこで今回は、企業の資金調達の方法について解説します。

資金調達のシリーズA・シリーズB・シリーズCとは ...

スタートアップ企業の資金調達において、よく目にするのが「シリーズA」「シリーズB」「シリーズC」などの言葉です。 これらの用語は、主にベンチャーキャピタルの投資判断の際に用いられており、企業の成長段階に応じた投資ラウンド・・・