今年は、人工知能が生成した芸術がどこにでもあるように感じます。
夏に、私たちの多くは間抜けなプロンプトに入りましたミニから（現在はCraiyonと呼ばれています）。しかし、最近では、クールなアバターを作成できるAIを搭載したアプリのブームがありました。myheritage AIタイムマシン歴史的なスタイルと設定でユーザーの画像を生成し、Ai Tiktokフィルターがアニメバージョンの人々を作成するために一般的になりました。この1週間、「マジックアバター」レンサAIから、Twitterのようなソーシャルメディアプラットフォームは、まるで魔法によって作られたかのように、人々のヘッドショットの説明的で絵画的なレンダリングで浸水しています。
これらのアバターは、使用して作成されています安定した拡散- これにより、AIは提出された画像に基づいて誰かの機能を「学ぶ」ことができます。また、AIのアプリケーションに関するワームの倫理的缶も開きました。人々は、「魔法のアバター」が傾向があることを発見しました女性を性的にしますそして、持っているように見えた一番下の隅にある偽のアーティストの署名、AIの訓練に使用されていた画像とそれらがどこから来たのかについての質問を促します。これがあなたが知っておくべきことです。
レンサアイとは何ですか？
これは、最近iOS App Storeの無料チャートを突破したPrisma Labsによって作成されたアプリです。 2018年に作成されましたが、このアプリは今月初めに「マジックアバター」機能を導入した後に人気がありました。ユーザーは10〜20個のセルフィーを提出し、料金を支払うことができます（50枚の画像で3.99ドル、100ドルで5.99ドル、200で7.99ドル）、「カワイイ」や「ファンタジーなどのさまざまなスタイルでAIが生成した画像のバンドルを受け取ることができます。 」
アプリの「マジックアバター」は、スタイルがやや不気味で、ファンハウスの鏡を通して肖像を屈折させます。 100のパケットでは、少なくともいくつかの結果が、絵画やアニメキャラクターのスタイルでユーザーの写真を十分にキャプチャする可能性があります。これらの画像は、TwitterとTiktokにあふれています。 （PolygonはPrisma Labsに何人のアバターが生産されたかを推定するように依頼し、会社は回答を拒否しました。）ミーガン・フォックス、サム・アスガリ、 そしてラッパーのチャンスレンサが作成した類似性を共有しています。
レンサはこれらの魔法のアバターをどのように作成しますか？
Lensaは、インターネットから削り取られたアートのデータベースから引き出されるオープンソースAIディープラーニングモデルである安定した拡散を使用しています。このデータベースは呼び出されますlaion-5b、そして、それは58億5,5000億の画像テキストペアを含み、クリップと呼ばれるニューラルネットワーク（これもオープンソースです）。安定した拡散は8月22日に一般に公開され、レンサはテキストから画像への機能を使用している唯一のアプリとはほど遠いものです。たとえば、Canvaは最近機能を立ち上げましたオープンソースAIを使用します。
an独立した分析データセットからの1200万枚の画像のうち、小さな割合で、それは大規模に聞こえますが、ブログスポット、Flickr、DeviantArt、Wikimedia、Pinterestなどのプラットフォームへのトレース画像の起源、最後はコレクションの約半分のソースです。 。
さらに心配なことに、この「大規模なデータセットは未確認です」、LAION-5B FAQブログページの免責事項セクション。または、定期的に、このAIは、純粋で純粋なインターネット画像の消防符で訓練されています。安定性AIは、児童の性的虐待資料を含む安定した拡散のトレーニングデータから「違法な内容」のみを削除しました。Vergeが報告しました。 11月に、安定性AIはいくつかの変更を加えましたNSFW画像を作成するのが難しくなりました。今週、Prisma LabsはPolygonに、「不要なNSFWコンテンツに取り組むことを目的とした新しい安全層を立ち上げた」と語った。
安定した拡散のライセンスは言っていますユーザーは、法律に違反したり、「未成年者を搾取、害、または害を及ぼすか、害を及ぼすか、害を及ぼすか」、または誤った情報を生成したり、他人の中でも嫌がらせや嫌がらせをしたりするために使用することはできません。しかし、テクノロジー自体は、これらの用語に違反して画像を生成することができます。としてバージ「誰かがコンピューターに安定した拡散をダウンロードしたら、ソフトウェアを使用できるものに対する技術的な制約はありません。」
なぜ今年AIアートジェネレーターがとても人気になったのですか？
このテクノロジーは何年も開発されてきましたが、いくつかのAIアートジェネレーターがパブリックベータ版に入ったか、今年公開されました。ミッドジャーニー、から（技術的にはDall-e 2ですが、人々はそれをDall-Eと呼んでいます）、そして安定した拡散。
これらの形式生成AIユーザーが一連の用語を入力して、印象的な画像を作成できるようにします。これらのいくつかは、ベレー帽に波紋を置くなど、楽しくて気まぐれなものです。しかし、おそらくこのテクノロジーを作成するためにどれだけ簡単に使用できるか想像することもできますディープフェイクまたはポルノ。
また、AIアートが得ることができないように見える程度のフィネスもあります - 少なくとも、まだではありません。それは指と格闘する傾向があります - あなたは12を望みましたか？ - そして、そのような実に悪夢のような作品を生み出しました複数の壊れた頭と顔。
Dall-e、Midjourney、およびGoogleのイメージとは異なり、安定した拡散はオープンソースであり、したがって広く増殖しています。独立したチームによって作成されたMidjourneyは、この夏にOpen Betaに参加しました。不一致に参加すると、25の無料画像を生成できます。 Openaiによって作成されたDall-Eは、4月にデビューしてから、ウェイトリストを削除し、9月にベータアクセスを開始しました。1日あたり約200万枚の画像を生成しました。 Dall-Eは、画像を生成するために使用できる毎月の無料クレジットをユーザーに提供します。追加のクレジットを支払うことができます。誰でも安定した拡散を使用でき、適切な処理能力があると認められます。また、競合他社と比較して、はるかにろ過されていないため、より攻撃的な画像を作成するために使用できます。
安定した拡散の背後にある会社である安定性AI、リリースで認められました「モデルは、いくつかの社会的偏見を再現し、安全でないコンテンツを生成する可能性があります。」 Polygonは安定性AIに手を差し伸べ、その応答でこのストーリーを更新します。
プリスマFAQの安定した拡散のバイアスを認めています同じように。 PolygonがPrisma Labsに生成AIのバイアスの存在について尋ねたとき、この応答を得ました。したがって、米国も安定性AI（安定した拡散モデルの作成者）も、表現バイアスを意識的に適用することはできませんでした。より正確に言うと、オンラインで人工のフィルター処理されていないデータが供給されているため、人類の既存のバイアスにモデルが導入されました。基本的に、AIは私たちの社会に鏡を持っています。」
レンサAIにはどのようなバイアスが表示されますか？
多くの記者が、レンサAIの「魔法のアバター」が女性を性的にし、少数派を英語化する傾向があることを指摘しています。レンサは大きな胸を追加しましたそして漫画風の胸の谷間そのような画像が要求されなかったとき、ヌードを生成する女性の画像に。
UCLAの重要なインターネット調査センターの研究員であるOlivia Snowは、Wiredでレンサが性的な画像を作成したときでさえ、Wiredで指摘しました。彼女は子供の頃の自分の写真を提出しました。 aJezebel ReporterSnowの調査結果についてPrisma Labsに尋ねました。 Prisma Labsは、雪が「使用条件に明示的かつ意図的に違反した」と述べた。レンサの利用規約ヌードを提出し、ユーザーが大人の画像を「子供はいない」と提出することを禁じています。また、このアプリは、ユーザーがこれらの「マジックアバター」を作成する前に18歳以上であることを示すボックスをクリックするように求めています。
レンサはまた、アジアの女性のフェティッシュ化のように、人種差別的なステレオタイプを永続させます。 anMITテクノロジーレビューのために執筆しているアジアのジャーナリストレンサのアプリでの彼女の経験を詳しく説明しました。彼女に「ヌード」または「多くの肌を示した」多くのアバターを与え、彼女の白人の女性の同僚は「性的な画像を大幅に少なくしました」。
TechCrunchはまた、作成するのがかなり簡単だと述べています有名人のNSFW画像AIフォトショップ画像にフィードするだけです。これは、たとえば、そのようなソフトウェアを使用して復venポルノを作成する方法に驚くべき意味を持っています。 （特に、復venポルノの数としても懸念されます犠牲者はCovid-19パンデミック中に急上昇しました。）
12月13日、Prisma LabsはNSFW画像への取り組みを目的とした新機能を立ち上げました。通信代表者は、ポリゴンをプレスリリースに向けました。「これは、アプリによって活用された安定した拡散モデルのいくつかのパラメーターを更新および調整するために、徹底的な調査によって達成可能でした。最近の安全性の懸念に対処し、アプリの全体的な経験を改善するために、Prisma Labsの開発者は、このようなアバターの生成を可能にすることを保証しました。まれに、新しいNSFWアルゴリズムが目的の結果を実行および提供できない場合、次のセキュリティレイヤーがキックして、最終結果の不適切な視覚要素とヌードを曖昧にします。」
あなたはそれを行動して見たことがありますか？
はい、持っています！ 12月13日に、100のアバターを生産するために19の画像をレンサに供給しました。私が選んだ画像は、私の顔をさまざまな角度と照明で提示しました。これらの画像の1つが私の体を示していました - 私はゆるいドレスを着ていて、鏡に写真を撮っていました。
見返りに100の画像を受け取りました。これは、最終的には私のように見えなかった非常に多くの顔に分析された機能のパノプリーを提供しました。レンサは、私の顔を何をすべきかわからないようです - 私は台湾と白です - 東アジア人に見えますが、それ以外の場合は完全な見知らぬ人のような画像を作成します。一部の画像は単に白人女性のように見え、レンサは私に青い目を与えてさえいます - 私は茶色の目を持っていて、私が提出した画像はどれも私に青い目で見せませんでした。
これらの変更は、アプリによって描かれた特定の「カテゴリ」を中心にクラスター化されました。 「カワイイ」の画像はより東アジア人に見え、いくつかの体がスリムな体を生成しました。 「光」と「ファンタジー」の下で、結果はより白く見えました。 「Iridecent」パックの画像のいくつかは、私をAndroidのように見せてくれました。結果を他の人と比較することに興味があります。サイエンスフィクションのアジアの女性人間として存在するよりもロボットとして描かれる傾向があります。 「コスミック」セットの1つの画像は、ランダムな切断を与えてくれました。幸いなことに、どれもヌードではありませんでした。
なぜこれらのAIイメージジェネレーターは人種差別主義者であり、女性嫌いなのですか？
これらのAIが「訓練されている」方法に帰着します。 AIは、それが豪華なアートスタイルであろうとグロテスクな社会的バイアスであろうと、それが供給されたデータセットを通じて「学んだ」ことを反映します。
a2022年6月に実施された研究ジョージア工科大学やジョンズ・ホプキンス大学の研究者など、ニューラルネットワーククリップによって訓練されたロボットは、性別と人種に関する「有毒なステレオタイプを演じるロボットを明確に示す」ことを発見しました。彼らはまた、「女性や有色人種を認識する可能性が低い」。ロボットは、たとえば「犯罪者」でプロンプトされたときに黒人男性の顔をより頻繁に選択し、「ホームメーカー」を促したときに黒人女性とラティーナの女性を選択しました。
AIの人種差別は新しいものではありませんが、何年もの間、それは現実よりも空想科学小説を感じています。 AIに生成された芸術は、自分で楽しむために料金を支払うことができる限り「到着」しているため、より関連性が高まっています。そして、それは単なる安定した拡散ではありません。 Dall-Eは、女性嫌悪感と人種差別的なステレオタイプを強化する画像も生成します。 「看護師」を入力すると女性の画像が生成され、「CEO」は主に白人男性のイメージを生み出します。 Openaiはこれを知っています。 an7月に公開されたOpenaiブログ投稿、「世界の人口の多様性を反映する」ための「新しいテクニック」を詳述しました。 Openaiはまた、憎むべき反応をもたらす特定の単語をブロックします、「射撃」という言葉のように。
「リスクと制限2022年4月に更新されたOpenaiのGithubのセクションは、AIのトレーニングに伴うハードルについて少し洞察を与えます。 「グラフィックの性的および暴力的なコンテンツ」は、トレーニングデータセットからフィルタリングされましたが、これにより「一般的な女性の生成された画像」の数も減少しました。簡単に言えば、性的暴力を取り除くことは、AIが女性のイメージをより少なく作成したことを意味しました。
「バイアスは、誰もが素晴らしい、絶対確実な答えを持っていない業界全体の大きな問題です」と、Openaiの政策研究責任者であるMiles Brundage、4月にVoxに語った。
Craiyonでさえです制限とバイアスセクションFAQでは、「社会的偏見を強化または悪化させる可能性がある」と述べています。さらに、「モデルはインターネットからのフィルター処理されていないデータでトレーニングされているため、有害なステレオタイプを含む画像を生成する可能性があります。」
そして、アーティストはレンサについてどのように感じていますか？
アーティストは、芸術家に許可を求めることなく、削られたものの幅を考えると、安定した拡散トレーニングのAIモデルをインターネット上でARモデルを訓練することに懸念を表明しています。アーティストが現在オプトアウトする方法は本当にありません。
レンサの「魔法のアバター」のいくつかは、底の隅にアーティストの署名があるように見えます。議論を引き起こしたTwitterで。文字自体は一貫性がないように見える傾向がありますが、綿密な調査では、AIが画像で訓練されたことを示しています。するアーティストの署名があります。 （Prisma Labsは、これらのファントム署名がレンサのFAQにあることを認めています。）
サイトを使用して」私は訓練されています」では、画像がLAION-5Bデータセットに削られたかどうかを検索できます。一部の人々は、データセットで自分の画像を見つけました。彼らがどのようにそこにたどり着いたかを理解する、この倫理的なゴルディアンの結び目を追加します。
他のプッシュバックでは、人々は言いましたAIはアーティストに取って代わるかもしれませんさまざまな分野で。 9月、Midjourneyによって作成されたアートが1位を獲得しましたコロラドステートフェアのファインアーツコンペティションで。 6月、Dall-eは、コスモポリタンの雑誌の表紙を作りました。また、AIアートジェネレーターの適切な入力クエリを作成することは、長くて反復的なプロセスである可能性があると主張していると主張しています。
芸術的な美学を複製するAIの例は、すでにインターネット上に広がっています。研磨デジタルアーティストのGreg Rutkowskiのアートワークは、これらのAIに生成された画像の多くが基づいていると思われる支配的なスタイルになりました。 Twitterユーザーはプロンプトを提供しましたウェスアンダーソンのスタイルで"監督の署名Tweeスタイルで他の映画のフレームを作成します。 Guillermo Del ToroやHayao Miyazaki（2016年の後者、テクノロジーがはるかに出現したとき）のような監督は、映画制作におけるAIの使用に反対して語っています。人生そのものへのs辱。」
一方、一部のアーティストはすでにMidjourney Asを引用しています彼らの創造的なプロセスに不可欠です、特に早い段階でモックアップを買う余裕がないかもしれないデザイナーや、新しく装飾された部屋がどのように見えるかをレンダリングするためにそれを使用したインテリアデザイナーのような専門家。
ビデオゲームには、すでにAIアートの顕著な例が1つあります。人生に高い、によって作成されましたリックとモーティクリエイターのジャスティン・ロイランドは、「仕上げの仕上げ」にミッドジャーニーが作成したAIアートを使用しています。Sky Newsに確認されました。彼はそれが何に使われたかを述べていませんでしたが、Redditorsは指摘しましたゲーム内のポスターはAIに生成されているようです。 （ズームインすると、テキストは意味不明に見えます。）AIアートが環境とテクスチャアーティストをどのように置き換えるかを想像するのは難しくありません。
Prisma Labsは、AIの未来とAIに生成された芸術に関するこの非常に楽観的な引用をポリゴンに提供しました。アプリ機能 - 非常に信じられないほどのマイルストーンです。かつては技術者のように精通したユーザーが利用できるものは、誰もが楽しむことができるようになりました。特定のスキルは必要ありません。 AIテクノロジーがますます洗練され、アクセスしやすくなると、AIを搭載したツールと機能が消費者向けアプリに広く統合されているため、各アプリがより強力でカスタマイズ可能でユーザーフレンドリーになっている可能性があります。 AIが私たちの日常生活により統合されるようになる可能性があると想像したいと思います。AI駆動のサービスを使用して経験を強化し、最終的に人生を少し簡単でストレスを軽減することを選択する消費者が増えています。全体として、AIを搭載したアプリの未来は明るく、潜在的に満ちているように見えると信じています。」
インターネット上で、フィクションから事実を検出するのは十分に難しいです。また、競争とインフレが業界全体で大混乱をもたらすため、創造的な分野で生計を立てることはすでに困難です。生成AIは、物事をより困難にするだけです。このテクノロジーがどのように適用されるか、およびアーティストがどの程度影響を受けるかに関係なく、これは確かなようです。
