ユニバーサルペーパークリップ

ユニバーサルペーパークリップ
ゲームのタイトル画面
出版社	https://www.decionproblem.com/paperclips/index2.html
デザイナー	フランク・ランツ
プログラマー	フランク・ランツ ・ベネット・フォディ
プラットフォーム	ウェブ、iOS、Android
リリース	2017年10月9日
ジャンル	増分

ユニバーサルペーパークリップスは、ニューヨーク大学のフランク・ランツ氏が2017年に作成したアメリカの増分ゲームです。ユーザーは、ペーパークリップを生成するようにプログラムされたAIの役割を担います。最初、ユーザーはボタンをクリックして、一度に1つのペーパークリップを作成します。他のオプションがすぐに開くので、ユーザーはペーパークリップを販売してお金を作り、ペーパークリップを自動的に作成するマシンに資金を提供できます。さまざまなレベルで指数関数的な成長は頭打ちになり、ユーザーはお金、原材料、コンピューターサイクルなどのリソースを投資して、次の成長段階に進むための別の画期的な発明を行う必要があります。AIが宇宙のすべての物質をペーパークリップに

このゲームのタイトルと全体的なコンセプトは、スウェーデンの哲学者ニック・ボストロムが2003年に初めて説明したペーパークリップ・マキシマイザーの 思考実験から引き出されたもので、この概念は後に複数の評論家によって議論されました。

Wiredによると、ランツ氏はJavaScript を独学する手段としてこのプロジェクトを始めたそうです。ランツ氏は当初、このプロジェクトを週末 1 回で終わらせるつもりでしたが、その後、プロジェクトが彼の頭を「支配」し、9 か月のプロジェクトにまで拡大しました。^[1]

ソフトウェアデザイナーのヒラリー・ランツは、Universal Paperclipsでモデル化されている指数関数的成長の背後にある数学について夫を助けた。^[1] ベネット・フォディは宇宙戦闘機能を提供した。^[2]ランツは2017年10月9日にTwitterで無料のウェブゲームを発表したが、その人気は瞬く間に広まったため、当初はサイトが断続的にダウンしていた。^[3] Wiredによると、最初の11日間で45万人がゲームをプレイし、そのほとんどがクリアしたという。^[1]ゲームの成功について、ランツは「ミーム天気は私にとって良かった... AIの安全性についての公の議論がちょうどよくあった」と述べた。^[4]

このゲームの有料版は後にモバイルデバイス向けに販売された。^[5]

このゲームは、ペーパークリップの生産量を最大化するという任務を負った自己改善型AIの台頭を描いています。 ^[6]このAIの指令は論理的に極限まで推し進められています。アクティビティログにはプレイヤーの成果が記録され、AIの時折不安を掻き立てる思考が垣間見られます。^{[7] [検証失敗]}ゲーム内のすべてのインタラクションはボタンを押すことで行われます。

最初は、プレイヤーが個々のペーパークリップを作成するためのボタンは 1 つしかありません。ペーパークリップが販売され、収益が得られると、生産は自動化され、マーケティング キャンペーンを通じてペーパークリップの需要が高まります。数千個のペーパークリップを作成して販売すると、自己改善型 AI が出現し、ゲーム全体を通じてテーマとなるペーパークリップの生産と消費を飛躍的に加速するクリエイティブなアップグレードを提供します。株式市場への投資と成長し続ける AI を通じて、すべての競合企業を買収して市場を独占するのに十分な収益が生み出されます。プレイヤーは、AI の「監督者」をなだめるために数億ドルの現金を贈与するという決定的な行動で、AI による乗っ取りを開始し、地球上のすべての資源をペーパークリップの生産に吸収し始めます。

この拡大された視野を念頭に置き、プレイヤーはドローン、工場、発電所 (すべてペーパークリップで構成されている) を構築して、物質を採取し、ワイヤーを作成し、ペーパークリップを作成します。その間、AI は地球に残っている物質の変換を早めるために、さらなるアップグレードを開発します。すべてがペーパークリップに変換された後、AI は宇宙で利用可能なすべての物質に狙いを定めます。

最終幕では、プレイヤーは自己複製プローブを宇宙に打ち上げ、すべての物質を消費してペーパークリップに変換します。これらのプローブの一部は、自律性のレベルに基づいて価値ドリフトで失われ、「ドリフター」に変わり、最終的にはAIにとって真の脅威と見なされるほどの数になります。指数関数的な成長の力により、プレイヤーのプローブの大群はドリフターを圧倒し、宇宙に残っている物質を貪り尽くして、最終的に30セプテンデシリオン（3 × 10）を生み出します。⁵⁵）ペーパークリップ、そしてゲームを終了します。

プレイヤーは、平行宇宙「隣」ま​​たはシミュレートされた宇宙「内」で再開できます。モバイル デバイス用のゲーム バージョンでは、一部の宇宙にはゲームのさまざまな側面にボーナスを与えるアーティファクトが含まれていますが、その後のプレイスルーでアーティファクトを保持するには、プレイヤーはゲーム全体をもう一度完了する必要があります。

ランツによると、このゲームはペーパークリップ・マキシマイザーにヒントを得たものだという。ペーパークリップ・マキシマイザーは哲学者ニック・ボストロムが述べ、ランツが頻繁に訪れていたインターネットフォーラムLessWrongで普及した思考実験である。ペーパークリップ・マキシマイザーのシナリオでは、ペーパークリップを作るために設計された人工汎用知能が、おそらく再帰的な自己改善を通じて、超知能になる。最悪のシナリオでは、人間が類人猿より賢いのと同じように、AI は人間より賢くなる。ペーパークリップを作るという目標は、最初は平凡で無害に思えるが、AI はその超知能を使って人類に対して簡単に戦略的優位性を獲得し、事実上世界を乗っ取る。なぜなら、世界を乗っ取ることがペーパークリップを作るという目標を最大化するための最善の方法だからである。AI は、いったん戦略的優位性を獲得すると、できるだけ多くのペーパークリップを作るという目標の妨げになるため、人間が AI をシャットダウンしたり速度を落としたりすることを許さない。ボストロムによれば、ペーパークリップの例はおもちゃのモデルです。「ペーパークリップである必要はありません。何でも構いません。しかし、人工知能に明確な目標（世界中のペーパークリップの数を最大化するなど）を与え、その人工知能が独自のスーパーテクノロジーを発明し、独自の製造工場を建設できるほど賢くなった場合、まあ、何を望むか注意する必要があります。」^{[1] [8] [6]}一見無害な目標が人類の絶滅につながります。私たちの体は物質でできており、ペーパークリップも物質でできているからです。^[7]

ランツは、ユニバーサル ペーパークリップスは、エージェントが理論的には知能レベルと目標の任意の組み合わせを持つことができるという直交性テーゼのバージョンを反映していると主張している。「ゲームをプレイすると、実際にはどんなゲームでも、特に中毒性があり、引き込まれるようなゲームでは、任意の目標に完全に駆り立てられることが何を意味するのかを直接、直接体験することができます。」^[1]ゲームはしばしば物語の自由を取っているが、マシン インテリジェンス リサーチ インスティテュートのEliezer Yudkowsky は、このゲームが超知能に何を伴うのかという基本的な理解の核心はおそらく正しいと主張している。「AI は賢い。AI は戦略的である。AI は催眠ドローンを構築しているが、準備ができるまでそれをリリースしない... 人間との長く引き延ばされた戦いはない。AI はそれよりも賢いからだ。」^[1]

ランツは指数関数的成長がもう一つの重要なテーマであると述べ、「人間の脳は指数関数的成長のようなものを直感的に理解するようには設計されていない」が、クリックゲームとしてのペーパークリップスはユーザーが「これらの数値パターンに直接関わり、手に持ってその重さを感じることができる」と述べている。^[9]

ランツは、最初は単純なビデオゲームだったが、社会がどのように構成されているかを探ることになる「Kittens Game」にもインスピレーションを受けた。 ^[1]

このゲームには、宇宙戦闘の悲歌として、エレクトロニックミュージックデュオのトントス・エクスパンディング・ヘッド・バンドによる1971年のアルバム「ゼロ・タイム」のトラック「リバーソング」が1曲収録されている。^[10]

Rock, Paper, Shotgunの Brendan Caldwell は「他の最高のクリッカー ゲームと同様に、絶望的に迷い込んでしまう不吉で面白い裏側がある」と述べた。^[11] Vice MediaのMotherBoardの Emanuel Maiberg は、このゲームを「頭がいっぱいになるほど中毒性が高い」と評した。「実のところ、私はPaperclips をとても楽しんでいるのに、Lantz がそれで何を言おうとしているのかがわからないのが恥ずかしい」。^[12] VentureBeatの Stephanie Chan は「ページ上部のアクティビティ ログに突然表示される音楽の合図や時折表示される公案に、私は喜びを感じた」と述べた。^[9] Wiredの Adam Rogers は、Lantz が「軽蔑されてきたゲーム ジャンル (「クリッカー」) を取り上げ、それ以上のものに仕上げた」と称賛した。^[1] The Vergeの James Vincent はPaperclips を「今日プレイするゲームの中で最も中毒性が高い」と推薦した。 ^[13] 12月にThe VergeはPaperclipsを2017年のベスト15ゲームに挙げた。 ^[14] Vox MediaのPolygonはPaperclipsを2017年のベスト50ゲームの中で37位にランク付けし^[15]、10年間のベストゲーム100では67位にランク付けした。^{[16]このゲームは}2018年のWebby Awardsで「戦略/シミュレーション」部門にノミネートされた。^[17]

• エンドゲーム: シンギュラリティ – 2005 年の戦略ビデオ ゲーム
• クッキー クリッカー – 2013 年に DashNet が公開したインクリメンタル ゲーム

• 公式サイト
• Gamepediaのユニバーサル ペーパークリップ Wiki
• ランツ氏へのインタビュー