Valter Fraccaro: 「倫理のない AI は真の知性ではない」

シエナで開催された SAIHub サミットで、ベネト州のエキスパート マネージャーと共に世界の人工知能の最先端と未来を調査

で生まれた Torino、彼の家族のルーツは高原にまでさかのぼります アジアーゴ、しかし、選択した トスカーナ州 生きて働くこと。 のXNUMXつと見なされます 人工知能の世界有数の専門家しかし、それ自体 ウォルター・フラカーロ 彼は、自分にとって本当に重要なことを話すことを好みます。 「私は自転車に乗り、チーズのメニューも読んでいて、その日何も学ばなかったとしたら、起きるのが間違っていたと考える人です。勉強、学習、知るなどの動詞がたくさんあるとしたら、それを理解して説明するのは、56歳で、同年代よりも若い人たちを高く評価している前の人に基づいているからです…」.
部長 di サイハブの頭字語 シエナ人工知能ハブ, 生命科学の分野で世界的に重要な柱、確信している 生命科学 です。 を達成するために不可欠な 持続可能な開発目標 によって定義されます国連、したがって 「私は、企業での人工知能のますます広範な使用を促進し、若者が科学に情熱を傾け、それを職業として選択できるようにするためのオリエンテーション活動を組織するために取り組んでいます」.

コンサルタントとして、常に世界の企業に手を貸してきた 特に持続可能性に関して、技術的、倫理的、社会的側面に注意を払い、真の競争上の優位性を生み出すことを目的とした人工知能プロジェクトの定義。 彼はまた、民間企業、財団、ビジネスコンサルタント会社のアドバイザーとして、人工知能 に適用されます R&D、いわゆる 研究開発. これに関連して、彼は次の主題に関する XNUMX つのプロジェクトを書いています。 生命科学、それぞれが公的および私的な貢献と資金を得ています。
彼のプロとしての軌跡の中で、彼はさまざまなイタリアの企業や地域と道を渡り、常に大きな責任を負う立場にあり、現在も過去に関連するものもあり、すべて過去 XNUMX 年間と一致しています。 シエナのモンテ・デイ・パスキ財団、 bba バイオテクノロジーの約束を果たす, パロリンリーガル, アキレスワクチン, ライフファンデーション, 4科学, デダグループICTネットワーク そして名誉ある パドヴァストゥディディグリ大学.

イタリア語での人工知能の最も有名な定義は、この分野のパイオニアの XNUMX 人であるエンジニアのマルコ ソマルヴィコの定義です。 彼は次のように述べています。人間の知性に排他的に関連する」. それは今も通用するフレーズですか、それとも「クーポン」に値するでしょうか? そして、バルター・フラッカロのような専門家がAIについて与える「説明」とは何ですか?
「それは、その「彼らのように見える」で、的を射た定義です。 私たちは、複雑な問題を解決できる人は知性を持っていると考えることに慣れています。したがって、コンピューターがチェスのチャンピオンに勝つのを見ると、何らかの形の知性を行使していると考えます。ここで誤解が生じます。 将来、知能を生み出す脳の生物学的能力を機械に移すことが可能になることを排除することはできませんが、今日、私たちは似たようなことにはほど遠い. AI の大きな可能性は、多くの異なるデータを相互に関連付けることができることです。これは、人間の能力では不可能ですが、コンピューターには典型的なことです。 要するに、私たち人間には質的な精神的能力があり（ベートーベンの第九が私たちに与えてくれる喜びを感じます）、計算機は量的なレベルで私たちよりもはるかに優れています（数百または数千の要因を分析でき、たとえば、 10 から 10 番目に考えられる分子のうち、特定の病気を治すために努力を集中する XNUMX の分子)。 人工知能の定義については、標準的なものを採用した方が、連携する際に困らないと思います。 欧州連合によって与えられたものは少し長ったらしいかもしれませんが、それは何年にもわたって続くことを保証します. 私は、AI ソリューションを作成するために使用するすべてのツールを要約するために、「数学的デジタル ツール」という表現をよく使用します。

ヴァルター・フラカーロとは？ また、「人工知能」の開発におけるご自身の活動に関して、一般的にご自身をどのように説明されますか?
「AI を説明する方がはるかに簡単だと思います! 私のキャリア全体は、現在ほぼ XNUMX 歳であり、情報技術で行われているとしましょう。 私は見習いとして始め、最初は民間の管理者になり、次に公的な管理者になり、この分野で XNUMX つの会社を設立しました。 何よりも、私は偉大な巨匠たちと仕事をすることができてとても幸運でした。彼らは私に特定の批判的感覚を働かせ、彼らの重要なポイントを把握することによって問題を解決するように促してくれました。 この意味で、私がパドヴァ大学の所長を務めていた XNUMX 年間、毎日楽しく一緒に仕事をすることができた Gianfranco Bilardi 教授の言葉を引用します。そして鋭い方法。 私が十分に学んだかどうかはまだわかりません！ 彼は脚光を浴びることを好まない人々の XNUMX 人ですが、理論的なコンピューター サイエンスの分野では、テクノロジーを前進させ、最大限の論理的コミットメントを必要とする分野で、彼は世界中で知られています。人間の精神のあらゆる努力に抵抗します。 人工知能については、自分の職業である ICT と、情熱である科学から始めました。 科学研究への人工知能の適用は、その表現が発明されて以来、過去数十年間に得られた主要な結果であり、それは今日とは異なる意味を持っていました。 今日、私はこれらの経験と、あらゆる種類、規模、セクターの企業に IT ソリューションを設計および提供するために長年費やしてきた経験を組み合わせて、ビジネスを改善するためのツールである AI を最大限に活用しています。 そして今日、これまでにないほど、企業を改善することは世界を改善することを意味します。持続可能な開発を望むなら、この単純な概念を私たち自身のものにしなければなりません。」

SAIHUB「シエナ人工知能ハブ」について教えてください。 その機関の使命、パートナーや創設メンバーの使命は何ですか?また、彼ら全員が AI の成長軌道にどのように適合するのでしょうか?
「シエナには、生命科学に関連する経済地区があり、農業食品分野の新薬、医療機器、方法、および技術の研究開発における知識とスキルの集中という点で、ヨーロッパでは他に類を見ません。 また、同じ分野と人工知能で優れたレベルの大学があります。 数年前、Monte dei Paschi di Siena Foundation が AI に特化したセンターを設立することを検討し始めたのは、こうした根拠に基づくものであり、ライフ サイエンス部門へのこれらの方法論の導入を奨励し、人々を引き付ける経済を強化するためのものです。 、企業、資本を地域に提供することで、将来的にもシエナとトスカーナのエコシステムの国際的な卓越性の地位を保証することができます。 このアイデアが FMPS によって提案されると、シエナ大学、トスカーナ ライフ サイエンス財団、シエナ市、コンフィンダストリア トスカーナ シュッドがすぐに参加しました。 その時点で、同じ創設者の役割で、SAIHub ビジネス ネットワークが設立され、現在、イタリア全土およびそれ以降の約 XNUMX 社が所属しています。 SAIHubを拠点とするTecnoscientia。 若者や企業を対象としたさまざまな活動に力を入れています。 この夏、人工知能と生命科学に関するイタリア初のサマースクールを開催しました。高校 XNUMX 年生を終えたばかりの XNUMX 人の男女が、これらの科目に関する XNUMX 日間のオリエンテーションに無料で参加することができました。 私たちの意図は、まず第一に社会的意識を高め、第二に、若者が科学に情熱を傾けるようにし、おそらく彼らがシエナ大学に入学して明日の研究者になるようにすることでした. 来年の夏にもこのイニシアチブを提案し、少なくとも 200 人の少年少女を期待しています。 さらに、私たちは最高の大学の才能のために数十万ユーロの奨学金に資金を提供し、最後に、修士号または博士号を取得して、 「ネットワーク」の企業のチームであり、少なくとも10.000年間そこに留まります。 この最新のイニシアチブは、これらの若者に、シエナには海外で見られるものに劣らない科学的およびキャリア的知識を開発する機会があることを理解させることを目的としています. したがって、彼らはイタリア国外に行くことを選択できますが、強制されているわけではないことを知っています。 その後、「ネットワーク」内のさまざまな企業が互いに協力して提示した AI プロジェクトを財政的に支援し始めました。 これらのプロジェクトのうち XNUMX 件はシエナ大学と共有されており、いくつかの研究助成金の地域資金を獲得しています。

そしてイタリアは人工知能の計画にゴーサインを出す

人工知能が現在到達している「最高点」とは? この質問は全世界とイタリアに適用されます…
「この場合、答えは主観的なものにすぎません。 それまでの間、たとえば人命を救うなど、最も価値の高いものから始めることができます。 この場合、AI が COVID に対するワクチンとそれらと戦うための薬の研究と開発にどのように関連してきたかを考えるのは正しいことです。 効果的なワクチンを 24 年足らずで作成することは、人工知能の貢献なしには不可能だったでしょう。 イタリアの並外れた科学者であり、世界のワクチン学の参考文献であるリノ・ラップオーリが言ったように、次のウイルスがコロナウイルスのように人類を脅かした場合、AI のおかげで、感染後 30 時間以内に必要なワクチンの特性を特定できるようになるでしょう。そのDNAを知る瞬間。 まだまだ健康の分野にとどまらず、「個別化医療」とは何かを考えてみましょう。 今日、私たちは世界中のどこに住んでいても（少なくとも薬が入手できる場所では…）、習慣、食事、環境に関係なく、老若男女を問わず、同じ薬を使用しています。 そこでたまたま医者に行くと、彼は私たちに 10 錠を XNUMX 日間服用するように命じ、それから薬局に行き、XNUMX 錠入りのパックを購入します。 AI のおかげで数年以内に利用可能になる個別化された薬は、個々の患者のために、その人に最適な量と形で薬が作られるため、私たちをより良く治すでしょう。 この方法で治療すると、より良い結果が得られます。つまり、入院する可能性が低くなり、病院に行く必要がある場合は、そこにとどまる時間が少なくなるため、冬に暖房し、夏に冷房する巨大な建物の必要性が減ります。恐ろしい維持費、汚染、土地利用など。 医療費は世界の GDP の XNUMX% に相当するため、すべての節約は数十億ドルの価値があります。AI を使用すると、大幅に節約できるだけでなく、より多くの人々により良いケアを提供できます。 簡単にするために「AI」と言っていますが、それは手段であることを常に忘れないようにしましょう。 人工知能も人間も奇跡を起こすことはできませんが、一方をうまく使えば大きな目標を達成できます。 今日、世界の全人口は、その経済的、社会的、政治的要素において、「移行」に取り組んでいます。つまり、持続可能性を通じて、人間の生活を悪化させることなく人間の生活がより良い状態を作り出すシステムに到達するための道です。私たちが過去XNUMX世紀半にわたって行ってきたように、地球全体で。 AI は、この旅に大いに役立つツールです。」

大学研究省、経済開発省、技術革新省、およびイタリアのデジタル移行の共同作業の結果である人工知能戦略プログラム 2022-2024 についてどう思いますか?パラッツォ・キージ？ 一般に公開されているプログラム上の XNUMX のポイントすべて、手段と目的の関係について確信がありますか、またはそれらのいずれかを調整しましたか?
「まず第一に、そのプログラムを書くことは決して容易ではなかったに違いないと言わなければならず、それを批判するときはこれを考慮に入れなければならない.なぜなら、他の人の仕事はしばしば過小評価され、もっとうまくやった方が簡単だったはずだと考えているからである. . そうは言っても、その文書は方向性があり、正しい方向に進んでいると私は信じています。 その場合、その適用が、AI ソリューションを作成する企業とそれを使用する企業の発展に本当に有利になるようにすることは、立法者の仕事となります。 プログラムと比較して、人工知能に関する倫理問題に関する国際的な議論が含まれていれば、さらに良かったと思います。 何年にもわたる作業と、多くのオペレーター、専門家、企業との継続的な対話の結果、AI プロジェクトの真の成功は、それが置かれている状況とその可能性のある結果の倫理的分析の深さに密接に関連していると確信しています。」 .

AI とビジネスのための質の高いフォーラム

現状では、AI にはどの程度の「知性」と「巧妙さ」が実際にあるのでしょうか。 人間はまだ同時に、脳のシナプスを再生産しようとする試みの限界であり原動力であり、すべての尺度であるのだろうか?
「簡単な答え: 『それが知的なものであれば、それは人工的ではありません。 ルチアーノ・フロリディが言うように、「それが人工的であれば、それは知的ではありません. より長い答え: 「私たちが知性について意識的に話すなら、少なくとも人間の知性の正確な定義が必要ですが、まだそれはありません」. 知性とは意識以外のものを判断するのは難しく、問題はさらに複雑になります。 次に、目標を作成する欲望の邪魔をする必要があります。 XNUMXつ言えることは、今日まで、機械には良心も欲望も目標もありません。したがって、知性もありません。 「仕掛け」は残っています、はい。 ダンテ・アリギエーリは、この言葉を、材料とビルダーの技術において非常に価値があり、観察可能性において完全なものを意味するために使用しました。 私たちの頭には大きすぎる問題を解決するために、私たちが数学と電子をどのように形成したかを彼が知りたいかどうかは誰にもわかりません. AI は依然として明らかに人間の現象であり、私たちを怖がらせるほどの力を AI に与えることは、私たちの責任を隠す方法なのではないかと心配しています。 人類が発明したあらゆる技術と同様に、たとえそれが古代の先人がサバンナの動物を脱出させた最初の棒であったとしても、私たちはその使用に責任があります。 そして、それをうまく使えば使うほど、私たちは「サピエンス」になります。 シナプスに関して言えば、エレクトロニクスを使って脳をシミュレートするという XNUMX 世紀の夢は、少なくとも実用的で工業的な形では、もはや人工知能の目標ではないように思えます。 それは「サイバネティックス」と呼ばれていましたね。 それは私たちの文化史を旅したようなものでした: ギリシア人にとって船を操縦したのはキベルネテスであり、ひいては都市でもありました... 今では私たちはサイバーナウタを書きます。私たちの祖先の指紋。 私たちは常に船を操縦していますが、時には海よりも船そのものを恐れることがあります。 AI はボートの最新モデルにすぎません。その前には、私たちが知らないことや私たちの良心の海があります。 そのためには倫理が必要であり、自分がどこにいるのかを知り、どこへ行くべきかを決定する羅針盤が必要です。 私たちが他の生き物より優れているからではなく、他に選択の余地がないからです。 私たちは限界を超えて宇宙を見ることができるだけであり、私たちはテクノロジーを使って限界を超える方法を最もよく知っている種であると言えます。」

機械学習 (英語では「機械学習」とも呼ばれます) とは何ですか? また、なぜ機械学習はますます重要性を増している人工知能の分野なのですか? ロボット工学がこれらの技術の真の応用分野となった結果、プログラミングはトレーニングに移行したのでしょうか?
「最後から始めましょう。 ロボットはチェコ語の「ロボタ」に由来し、「勤勉」を意味し、その前は「奴隷制、奴隷制」を意味していました。 私が企業でセミナーを開催するときは、私の話を聞いている人に、テクノロジーによって機械に任せることができるようになった仕事は何ですか。 結局のところ、誰も。 私たち人間は、強制的な努力と理解される仕事が好きではないからです。 聖書では、仕事は神がアダムに課す罰であり、さまざまな言語で「仕事」を意味する言葉は常に奴隷制を語る語源を持っています. 結局のところ、「機械学習」は、私たちが「経験」と呼ぶものを機械に移すために考案した方法です。 子供が XNUMX 匹の猫を観察して、次に見た猫を「猫」と呼ぶだけで十分です。 コンピューターが猫を認識して「猫」と識別するには、何千枚もの猫の写真を表示する必要があります。 数千または数百万枚の写真だけを、コンピューターは数秒で調べ、膨大な量の数値データや本や科学のテキストで同じことを行うことができます。猫を区別するのには役立ちませんが、人間が何百年も生きて閲覧することさえできなかった量の情報を瞬時に読み取ることができたので、研究者を助けることができるという事実. 要約すると、私たちは、私たちが好きではなく、あまり得意ではないハードワークを機械に委ね、「機械学習」(および同様の手法) を使用して、それを正しくするために必要な経験。 彼は働いていると私たちは考えています。

量子スーパーコンピューターと量子物理学は、人工知能の理論的および実用的な成長に決定的な転換点をもたらすでしょうか、それとも別の道があるのでしょうか? なぜ？
「量子スーパーコンピューターには完全に独自の可能性があり、私たちが AI で直面するような問題はめったになく、別の順序の問題を解決するために使用されます。 それらはおそらくいつか、脳をシミュレートするのに役立つでしょう。脳は、従来のコンピューターよりも量子コンピューターに確実に似た生物学的および電気的機能を持っていますが、今日私たちが考えている AI は、近未来は、私たちがスマートフォンやパソコンで使用する通常のコンピューティングの形式にリンクされています。 それでも、まだ先は長い」。

人工知能のためのスイスの能力ネットワーク

AIまたはAIの実装は、あなたが好むものは何でも、本当に倫理的および道徳的な制限を受けるべきですか、それとも機械と人間の競争の可能性は間違った質問ですか? ホモ・サピエンスは人工知能の中に、アカウントと自然とのバランスを取り直すことができる分身を見つけることができるでしょうか?
「良い質問です。特に連続して尋ねられた場合は！ 「機械から人間への競争の可能性」は、私たちが AI 倫理と呼ぶものの焦点では​​ありません。 具体的には、倫理、つまり、私たちの個人的および社会的行動から損害ではなく利益を得ることに同意するルールであり、最終的な結果を予測できるように、人工知能を適用するコンテキストを分析できる必要があります。そしてネガティブなものは避けてください。 AI には、管理が必要な多くの倫理的側面があります。 最もよく知られているだけでなく、最も議論されており、私たちが自由に使える適切な手段と行動をすでに持っているものの XNUMX つは、プライバシーです。 要約すると、特定の人物を説明するデータを区別するためにデータを参照することはできません。 ただし、より微妙な側面があります。 たとえば、コンピューターが人間の誤った方法を使用してデータに作用するのを防ぐ必要があります。たとえば、自分の選択に偏見を使用する傾向があります。 さらに、提示された問題に答えを与える方法を見つける際に独自の自律性を享受する人工知能のアプリケーションが、それを導き、特定の結果につながった論理パスを明確に明らかにしないことを避ける必要があります. 続けることはできますが、要点は変わりません。マシンが分析結果を自動的に適用する際に与える可能性のある損害が深刻であるほど、その実行を決定する人物が存在することがより重要になります。 機械に特定の決定に「どのように」到達したかを説明するように依頼することはできますが、その適用に対する責任は常に人間に追跡可能でなければなりません。 この状態は常に作成できますか? いいえ。 したがって、機械のエラーは人間の責任と考えなければなりません。 それは大したニュースではありません。たとえば、工場の装置が労働者を傷つけたときに私たちが行うことではありませんか? 私たちは報道機関の意志を恐れていないという事実に怯えていますが、それは「知性」を持っていると信じている機械のせいだと考えています。それは意味がありません。ここまで説明してきましたが、私たちの経験では知性と意志が一致するので、そう考えるのは自然なことです。 ホモ・サピエンス、分身、自然…マウリツィオ・フェラーリスがここで答えたいと思います！ 私は、人類の過去XNUMX、XNUMX世代がそれ以前の数千世代よりもはるかに良い条件で生活できるように導いてきた進歩を生み出す私たちの方法が、地球を保護することと両立しないことを世界的に認識していると言うにとどめます。私たちの子孫の未来は、今世紀最初の大きな出来事です。 この方向性を変えるには、科学的能力と、それに由来する技術的能力に焦点を当てる必要があります。 私たちは、他の種や地球そのものをこれ以上犠牲にすることなく、人間の生活条件を改善するツールを持っていること、そしてまだ未熟な技術の中には、すぐにさらなる可能性をもたらすものがあることを知っています. これに基づいて、国連の SDGs を通じて、私たちは 190 を超える国との間で素晴らしい協定を結びましたが、これはこれまでにありませんでした。

2030 年までに、中国は人工知能の分野でヨーロッパとアメリカ合衆国を抜いて最初のプレーヤーとなるでしょう。この変革が地政学と世界経済に与える影響は何でしょうか? 環境の持続可能性を最大限に高めるための「探求」と、地球温暖化との戦い、新しいエネルギー源の特定は、これらの研究を通過するのでしょうか?
「定量的な用語から始まる正しい質問です。 私たちは常に、これらの分析を、さまざまな国 (または「帝国」、今日多くの論争を呼んでいるが、この問題について正しい分析を行っているベネチアの哲学者) が人工知能に投資している時期と密接に結びつけています。 まるで砲艦の時代に私たちがいたかのようです。そこでは、最大のものを持っている人が世界を支配していました. それが今日どのように機能するかはわかりませんし、この見方が今後何年も続くかどうかはさらにわかりません. スキルとそれを活かす能力は、単なる数値的な問題ではないように思えます。 私は、電車でも行くのが難しい人口 50.000 人の中心地であるシエナで多くの仕事をしていますが、文化的、起業家的、科学的な構造があり、この中世の小さな都市が生命科学研究の世界的中心地の 2012 つであり続けています。 世界の他の場所で、より有利な条件がいくつありましたか? 非常に多いですが、シエナはそこにいて、トップを維持するために働いています. 何十億ものユーロ、ドル、または人民元をテーブルに置いて、同様のものを再現できますか? 多分そうかもしれませんが、数年後にそれを再現することを望むよりも、そのお金のほんの一部を持ってシエナに来る方が良いかもしれません. AI は、大きな可能性を秘めた破壊的なツールです。これが、AI について頻繁に話題にする理由です。 電気、電車、インターネットについても同じでした。他の国よりも多くの投資を行っている国もありますが、これらの技術が登場してから数十年または数世紀が経過した今日、他の国が投資していないとは思えません。彼ら。 私はそれがある程度の素朴な読み方であることを自分で理解していますが、私にはそれらがないので、「中国のようにXNUMX兆億ドルを投資すべきだ」と言うのはもっと素朴に思えます。 、それから私たちは別れるべきだと言い、イタリアを休日の工場に変え、XNUMX年に「Le Scienze」のディレクターであるMarco Cattaneoが書いたように、「ウェイターの国」になります. 最後の質問については、これまで述べてきたことから、イタリア（および同様の理由でスイスも）は、世界の将来において重要な位置を占める可能性が十分にあるというのが私の意見です。 政治力としてではなく、文化的影響力として。 持続可能性が定着するのが早ければ早いほど、それを使用する新しい方法を作成するための知識と能力がより強く得られます。特にライフサイエンスは、SDGまたは持続可能な開発の達成を最も容易に支援できる科学経済部門であり続けます。国連機関の目標…」.

未来はすでにここにあります: 常に理解されるべきであり、無駄になることはありません…