荒れすぎる内容ですのでこちらに
rangray01 (らんぐれー)
今回PixAIで巻き起こった論争を24時間見てきて、
Discordログも見た上で”個人的な事”を書きます。
＊注意、あくまで個人の感想です＊
今回の件はアプリが、
アプリを管理している側から恐らくNSFW問題絡みだと思いますが、
何かしらの問題提議されたことにより、
慌てて事前に通告もなく、
いきなりフィルタをかけたのはいいが、いい加減なフィルタであったため、判定の誤認識が多く発生し、
アプリユーザーではないPCブラウザ側のユーザーにまで影響が出てしまったことが発端みたいな始まりでした。
ここで１つ、
●そもそもアプリ側は老若男女あまりにもの不特定多数のしかも、年齢も多岐にわたる
●アップル側の騒動だけで、アンドロイド側は全く通常通りだった
●PCブラウザユーザーに影響が出た
まず、１つにこれら３つの問題なのですが、
そもそも”アプリ”には上記にも書きましたように、余りにも不特定多数過ぎて”リスク幅”が大きすぎます。それなのにお金を回収手段としては”NSFW”は有効ですが、アプリでNSFWを閲覧できるようにしたのは”間違い”だとしか言いようがありません。
圧倒的にリスクしかなく、低年齢の閲覧を考えるとリスクしかなく、それを解消しようとすると、アプリにかなりの技術を要することになります。
ですのでアプリは”セーフモード限定”にしておけば、このような問題にまでは発展し難かったと思います。
し難いと言ったのは下記に口述します。
２つ目、
ユーザー側がいつも見て見ぬふりする点なのですが、「会社の運営にはお金が必要」で、会社の運営が安定しているからこそユーザーが安定してサービスを受けれます。
ほとんどのユーザーは、
「なんだ○○ができないんだったら、○○ではできるからここもういいや」とか、
「なんだここ○○はできないのか、ならできる場所でいいや：とか言って、
簡単に他所を選んでしまうために見落とすのですが、
ユーザー側次第で会社が成り立ってるとも言えます。
その為にどうしても外せない問題が「NSFW」問題であると思っています。
あっても問題、無くても問題で、
貴社も頭が痛い問題だとは思いますが、
基本的に”住み分けが重要”だと個人的に思っています。
＊NSFWについて個人的観点＊
NSFWは手っ取り早くお金を生みます。
これは運営側には魅力だとおみますが反面、世界的にどこでもデータ閲覧ができる世の中になった為と現実での問題をNETのせいであるという解釈により、NSFWにすごく批判的です。
ですので、考えうるリスクを事前に予測し、早急に対処しておけば”住み分けできる環境作り”の手が打てるのではないかと思って、
現在までその部分も踏まえた提案してきました。
・LoRAの転載問題
これはNSFWリスクを高めます
・プロンプト可視問題
これはプロンプトをコピーするだけで、簡単にユーザーがNSFW作品を大量に複製してしまえます
・プライベート問題
プライベートモードを作り、プライベートモードでしかできない機能を付加要素にすることにより、
NSFW作品を公共の場所にアップする率を下げる意味で提案しました。
よく自分でも思うのですが、
「このキャラでNSFW系の作品作ってみたい」という事があっても、アップすると貴社のルールどころか苦情を呼び込む、また自分もアップする事で通報され、最悪アカウント停止を呼ぶ。
この未来が予測できたので、「有料でいいのでプライベートモードが欲しい」と提案した次第です。
これにより貴社には有料にするメリットをユーザーに提案する材料に出来るのではないかとも思いました。
無料は基本的にセーフモードオンリーで本来は良いと思います。
見るだけに特化させ、「作れるのはセーフのみ、NSFW作品作りたかったら有料化してね！」と言えればどんなに楽かと思います。
が、無料ユーザーが広告塔となって人を呼び込んでいるのも事実なので、一定のサービスは受けさせる必要性があるのも理解しています。ソーシャルメディアで無料ユーザーをないがしろにしたコンテンツはあまり長続きしたものが無い結果が、今までのデータで蓄積されてます。
長文になり過ぎ申し訳ありません。
次のコメントで「住み分け」にあたる１つの提案を１つさせていただきたいと思います。
Foxify
フィードバックありがとうございました。
以下のことを計画しております：
画像を作成の時に、NSFW画像は非公開に設定するため、NSFW画像がフィードに表示される頻度が低くなります。ユーザーがNSFW画像を公開にしたい場合は、料金を支払う必要があります。
rangray01 (らんぐれー)
Foxify: なるほど、金額設定次第で声を上げる人はいるかもですが、
作る事ができるのなら個人で趣味で楽しむ方には影響ないですね。
自分なら料金払ってでも公開したい作品を作るために作成の妥協は無くなると思いますが、１つ懸念があるとすれば、NSFWオンで作った作品は別として、NSFWオフの作品のどこまでをNSFWにするかでしょう。
オフにしててもLoRAとか駆使するとNSFWオフの状態でもアウトな作品作れる恐れがあります。
しかし肌の露出判定だと、男性の水着姿ってだけでもアウトですのでｗ
夏オリンピックとかを題材にした作品は肌の露出が多くなるので判定が難しそう...。夏の題材も判定次第では荒れるんでしょうね。
現在でも判定に疑問がありまして、
https://www.foxify.art/images?id=949633a9-308e-468c-9d47-1ca38c89df0b
この作品はNSFW判定されてないのですが、
https://www.foxify.art/images?id=e9e584a6-ab79-461c-94e2-d93d2bc95843
この作品はNSFW判定されています。
露出・構図・基準が似ていて、
プロンプトは同じですが、判定に違いがあります。
この判定の基準の厳密な理由がCivitaiのNSFW判定みたいに目でわかれば、納得し判定にかからない努力の方に注力できるのですが、
現在の状況だと「ここの判定は馬鹿なのか？」と書かれても否定できません。
「誤認識じゃないの？」と思っても、”通報”という項目しかない為、
押すことが躊躇われます。誤認識専用のボタンがあれば押すのですが…。
Foxify
rangray01 (らんぐれー): NSFW 写真の認識は AI を使用しているため非常に困難であり、エラーが発生する可能性があります。
rangray01 (らんぐれー)
Foxify: 一応報告用でテストページ作ってみました。
http://outlaw.lsv.jp/Foxfy/index.html
あくまで参考用ですので、掲載物は後できちんと削除します。
Foxify
rangray01 (らんぐれー): 現在、直接画像リンクの問題は非常に機密性が高く、Facebookなどの大規模なシステムでも、投稿を非公開に設定しても、直接画像リンクでアクセスすることができます。私はあなたが画像を非公開に設定した場合、あなた以外の誰もがその画像の直接リンクを取得するのは難しいと考えています。
rangray01 (らんぐれー)
Foxify: 確かに直リンクはユーザーしかできません。
ですが非公開設定で制作したものはFoxfy側は管理者なので閲覧監視できますが、
一般ユーザーがこの人違反してるよと言うにはFoxfy上で公開してもらうしかありません。
それを逆手に取った方法で悪意のあるユーザーが、
金銭のやり取りをするサイトで、
児童ポルノに当たるイラスト等を掲載するユーザーが居た場合、
「そういう行為が今の現状だと、直接Foxfyに画像を置いたままで出来てしまいますよ」と言いたかったのですが、
文章が下手で意図が通じず申し訳ないです。
そうなるとそのユーザーが逮捕されるような事態に陥った時困りませんか？と伝えたかっただけです。
後半の文章を後で付け加えたので、読めてなかったら申し訳ないです。
Foxify
rangray01 (らんぐれー): 言いたいことは理解できます。そのため、私たちは悪意のあるユーザーを取り締まっており、それらの悪意のある画像は定期的に削除され、システム上に残されなくなります。
Foxify
rangray01 (らんぐれー): さらに、規約には免責事項があり、ユーザーは自分が作成した画像に対して責任を負わなければなりません。
rangray01 (らんぐれー)
Foxify: 対処されてると判り安心できましたので、
このスレッドは削除していただいて問題ありません。
”非表示下で作成させて貰っている”と常に利用している立場を理解し、
公表すると通報になりかねないと思う作品は作成はしても、
（作成だけはやはりさせてもらいたいｗ）
それが第三者には肯定されにくいものであると意識して取り扱っています。
自分は整理がしやすくなる現在より前に大量に作品を作成したため、
整理が追い付いていません。
ある程度整理できた時点で、保存し、Foxfyからは消す予定です。
貴社で作成できるだけで、
自身ののPCが他の用途に使用できるメリットは大きく、
PCの買い替えの必要もなく、
ローカル制作ではPCへの負荷も高かった為、2倍の拡大までが限界でした。
貴社ツールでそれらから解放されるだけでなく自身のローカル環境より快適であるため、これからも意識して作品に責任を持った取り扱いをしたいと思います。
厄介なユーザーかもしれませんが、
つい子位に回答していただきありがとうございました。
これからも貴社ツールで楽しませていただきます。
PS.報告用ページ削除しておきます。
rangray01 (らんぐれー)
＜＜個人の話ですので肯定否定はDiscordで＞＞
フォルダに対する提案は以下の通りです。
PixAIでは、フォルダを公開と非公開の２択しかなく、フォルダに貼ったイラストにはNSFWであろうと全てのユーザーが閲覧できる状態でした。
アイコンに使うイラストはローカルフォルダからアップするもので、
NSFW判定がなされず、そのままNSFWオフでも表示される。
Foxfyも現在フォルダアイコンが「コレクション内に入れた作品」が表示されています。それを踏まえて。
＊「NSFWがオン」で「表示だけオフ」の時に限った特殊な話です＊
フォルダの中身がNSFW作品と混在していると、たまにセーフ作品がアイコンになり、「セーフ作品か」と中に入るとNSFW作品があったという状態が起こります。
NSFWをオンにしてるからだと言われればそれまでなのですが、
コレクションフォルダにもう１つ機能として「NSFW」と「非表示」のスイッチを設けませんか？
初めからNSFWのスイッチオンであれば、判定の材料となると思います。
”NSFWオンでNSFW表示はブラー”の設定の人が見に来た時、NSFWのスイッチの入ったコレクションのアイコンは強制的にどんなものがアイコンであってもブラーかかるようにしておけば、文句の言いようが無いと思います。
それこそそれで苦情が来たときは「貴方がNSFWをオンにしてるのが悪いのでは？」と言えると思います。
また、自分のように一旦一括で移動させてから、後から選別して振り分けるタイプの方も居ると思います。
この時、”非表示オンの作品は非表示専用のコレクションにか収納できない”という要素があれば、バグが生じても非表示設定のイラストが第三者に閲覧される率は下がると思います。
自分は昨日のPixAIの騒動で”バグにより非表示作品が第三者に閲覧できる状態”にされました。
これはPixAIのフォルダ機能に「公開と非公開を混在して置いていた」ために起こった事例だと思います。
ですので、わざわざ非表示専用のフォルダが欲しいといった点は、
管理フォルダが違えばバグが起こっても「対処できる・し易い」等の貴社へのメリットにもなる話だと思います。
もう作業してる方には申し訳ないが、非表示設定のものは第三者に閲覧されたくないから設定しているものが大半だと思うで、文句の言いようはないかとｗ
上記にも書き、別コメントでも述べてますが、
自分だけが特殊と思っておらず、一定数のユーザーには、
「一度に移動してから、後から整理したい」という方は居られると思います。
現状ではコレクションへの選択一括移動はなく、
１つ１つコレクションのタグを推してある程度満足いった時に、
フォルダ名を変更すれば一度にまとめたのと同じことができますが、
同じ名前があるとそれは１つ１つ選択時にフォルダ指定する必要があり、
枚数が多いとそれだけで数十分、数時間かかります。
コレクション内から別コレクションの移動も現在は１つ１つ一旦コレクション解除してまたコレクションオンにしてフォルダを指定しなければ移動できません。
これも大いに苦労します。
ですので、選択→他のコレクションへの移動を選択→決定
これだけでコレクション間の移動が大変スムーズになり、ユーザーの拘束時間も減ると思います。
非公開フォルダ間の移動も、非公開フォルダ同士なら選択できるようにすれば、
整理整頓が便利だと思います。非公開であっても、やはりジャンルは分けたいので・・・。
この時、非公開オンの作品が、非公開用フォルダしか選択できなければ、事故は防げると思います。
ここまですれば、NSFWには一定の配慮をして住み分けをしています。
後はユーザーのモラルに当たる部分で、モラルに違反したユーザーは処罰されても仕方が無いと言えると思います。
・NSFWとSAFEを別々にコレクションできる機能を用意
・NSFWオン・表示オフの人にも一定の配慮
・有料ユーザー専用の非表示専用コレクションフォルダ
・ユーザーの作業時間短縮するための配慮
・非表示は非表示専用にしかコレクションできない仕様により事故率を下げる
・非表示フォルダ内のイラストを非表示解除したら一旦デフォルトのコレクションフォルダに移動するか、コレクションタグが強制的に外れるかの対処
・その逆で公開してたイラストを非表示化した時も強制的にコレクションタグが解除される対処
・非表示の判定のものはどこに置こうがシェアできないようにする。
これは非表示という設定でも外部から閲覧できる可能性を無くすため、
非表示状態のイラストはリンクコピーの項目を無くすのはいかがでしょう？
＊実験したのですが、Foxfyユーザーがリンクを辿れば、
そのユーザーの設定が反映されるため、NSFWオンであればリンク先のイラストはそのまま全て閲覧できます。
Foxfyユーザーで無ければ初期設定ですのでブラーがかかったイラストが表示されます。
確かにその画像の先を見たい人はFoxfyユーザーになるので貴社にはいい宣伝ではありますが、第三者に見せないからこそある程度の個人の自由が許されるのであって、第三者に開示してしまうと結局は貴社の預かる案件になってしまう事です。Discordでもトラブルになっていた件はリンクを無くすだけでhtmlを理解してないユーザー位は減らせると思いますが、一番の問題点は「直接リンク」だと思います。
このアドレス、非表示のイラストです。
問題点があってユーザー登録してなくてもNSFWが見れます。
これはFoxfy上ではNSFW判定になっている作品です。
ユーザーで無いものでも何もなく表示されました。
この抜け道が騒動の原因を担っているんじゃないかと思いました。
Foxfyのリンクを使わず、画像の直接リンクを理解してるユーザーならやりたい放題じゃないかと思います。
直接リンクを禁止するのはかなり大変かと思いますが、報告されてると思いますが一応報告します。
個人的な提案ですが、悪い提案ではないと思っていますので、
ご考慮いただけたら幸いです。