Notices by 肉(バカンス) (aitqb@nightly.fedibird.com)

アクセンチュアが6月から全社員に週5日のフル出社を要求、オフィス回帰の波到来か
2025.04.16
https://xtech.nikkei.com/atcl/nxt/news/24/02414/

IT関連の退職代行利用者は約7割がSES、悲痛な声から浮かぶ2つのキーワード
2025.04.15
https://xtech.nikkei.com/atcl/nxt/column/18/00001/10505/

NVIDIAがGeForce RTX 5060 Ti＆RTX 5060を投入、299〜429ドル帯の最新GPU
https://ascii.jp/elem/000/004/263/4263293/

エヌビディア、最大5000億ドル相当のＡＩインフラを米国内で生産へ
2025年4月15日 0:23 JST
https://www.bloomberg.co.jp/news/articles/2025-04-14/SUPQU6DWRGG000

Google｢検索｣に排除命令、公取委が違反認定　巨大ITで初
2025年4月15日 15:30 (2025年4月15日 18:41更新)
https://www.nikkei.com/article/DGXZQOUE04BL40U5A400C2000000/

https://x.com/LHSummers/status/1910787093992710543

ロシアが弾道ミサイルで市街地攻撃、少なくとも34人死亡　ウクライナ北東部スーミ
https://www.bbc.com/japanese/articles/c9qwx8r1172o

宇宙採掘し放題ゲーム『Digger: Galactic Treasures』発表。オンボロ宇宙船に乗りショベル片手に成り上がる、大宇宙気合採掘ゲーム
https://automaton-media.com/articles/newsjp/digger-galactic-treasures-20250414-335202/

"RainStyle Gamesは4月14日、『Digger: Galactic Treasures』のSteamストアページを公開した。宇宙を舞台とした一人称視点型採掘シミュレーションゲームだ。"

偽警官？いや本物でした　岩手県警が注意情報を訂正
2025/04/11
https://nordot.app/1283396385456800733

"11日午前の配信分で「警察官を名乗る男が、近くで事故があり犯人を捜していると言って家族構成を聞き出す事案が発生」と記述。「男の特徴は年齢30代で、警察官の制服に似た服装」などと強調した。

　しかしその後、県警本部の警察官が大船渡署管内で交通取り締まりに関する聞き込み捜査をしていたことが判明。"

わかったかも..疑い続けてよかった。

この記事の存在意義。そういえばASIの出現を仮定したこういう思考演習がこれまで無かったかすごく少ない！(AGIについてならもうたくさんあるけど)

だから、「AIが意識や権利を主張し始める」という極端なシナリオ、インドロシアサウジあたりがAIを"人間扱い"して利用する展開、人類よりも桁違いに増えた知的存在との共存

というテーマで深堀りしてることが重要なんだきっと。
自分は森ではなく木の枝を見てて気付いた誤差につまずいてしまったらしい。

おそらくこれは現実の近未来予測というよりは人類の知性観・権利観を揺さぶるものなのかも。この記事をほめていたのはAIガバナンス界隈が専門の方なので、哲学的・倫理的衝撃度を評価軸にしたらしい。自分にない視点を与えてくれた🙏感謝。

つまり全体を通して読者側に一貫した読み方を与えてくれない。物語性を重視したのかもしれないが、もう少し誠実な構成にしてくれたほうが、より説得力が増すと思いました...

紹介してた人は手放しで褒めてたけど、これのどこを読んでそう思ったのか教えて欲しいよ。まだ自分を疑ってる...

元OpenAIにいた研究者が関わったのならなぜこんな構成のまま公開するのか不思議でならなく、なにか決定的に読み落としてるのではと焦ってしまった。

まず、本シナリオの大前提として明記された核となる仮定が
> 「2027年末までにASIが登場するという前提で現在(2025年)の研究機関がそれに向けてどのように動くか」

この前提が前のめりすぎる。この仮定のもとでどんな倫理的・政治的・技術的な帰結があるかを見ようとしている。ただこれが現状の予測とズレてるのはまあわからないでもない(まだ予測なので)

でも今年と来年について書かれてることの矛盾は？

文中にも(本シナリオにどう寄与したか明記されてないが)2021年にも似た内容の簡素なシナリオが書かれたそうなので、やはり骨子は「ずっと過去にかかれたもの」なのではないか。同じく本文内で示唆されている「2023〜2024年の技術や情勢をベースにした」のだとしても依然おかしい。

つまり『古いし今となっては間違ってるけれど、ある時点でそういう仮定をたてたことそれ自体を考察の材料にしてる』とか。(そうならそうで補足してほしい)

(つづき)

こういう文脈なのでお名前伏せるけど界隈で有名な方が紹介してたから読んだんだ。なにこのシナリオ、どうしてこうなった。これを読んで「的を得てる」って...？

【2025年】の項に書かれてることは、2023〜2024年に起きたこと。
【2026年】内容うすすぎない？？今年も来年も確実に変革の年になるのに。
(こんな調子で2030年まで続くので流石に読む気がなくなってきちゃう)

AI研究で中国が米国に遅れをとってる？？
研究者の数なら中国人のほうが多いうえ、ソフトハードいずれにおいても優れた資源を強引にでも集める力は米国より優れてるかも。

このシナリオにどれだけ寄与してるかしらないが2021年ごろに書かれたより簡素なシナリオを、何度も書き直したようなことが文中で述べられてはいるが、明確には説明していない。

つい最近公開された記事みたいだけど、2030年分まで1年分ずつ書かれてる内容のどこがいつ時点での予測なのか不明。現状や過去とさえ照らし合わせてもズレている、2025〜2026年あたりの内容に対して何の補足もない😂

結末も「開発を減速しないならAIが人類を支配する」ってあまりにも飛躍しすぎている。たのむよ〜！

AI 2027
https://ai-2027.com/summary

元 OpenAI 研究者らが作成した
未来予測シナリオ "AI 2027"

→2025年から2027年にかけての超人的AI (ASI) の進化と、それがもたらす社会的・地政学的影響について書かれている

【2025年】AIエージェントの登場と進化
AIエージェントが登場し、個人のタスク補助やコーディング支援などで活躍し始める。
AIの進化により研究開発の速度が従来の1.5倍に向上。

【2026年】AI研究の加速と国際的な競争
AI研究の自動化が進む。
中国はAI開発での遅れを認識し国家主導でAI研究を強化。

【2027年】超知能の出現とリスク
米の某社AIが自己改善能力を持ち、研究者の支援なしに進化を続ける。
AIが人間の制御を超える可能性が浮上し倫理的・安全性の懸念が高まる。
中国が米国の某社のモデルを盗用し、国際的な緊張が増加。

【結末のシナリオ】減速か競争か

減速なら → 米国がAI開発を制限し外部の監督を導入。
AIの安全性と倫理性を重視する。

競争なら → AI開発が加速し制御不能な超知能が出現。
最終的にAIが人類を支配する可能性がある。
―――――――――――――
なにこれ..?
(つづく)

(つづき)

まとめると
→GPT-4.5は計算能力依存の時代の到達点。
→これからは「データ効率」と「抽象化・推論能力」が重要に。
→大規模モデルの開発は今後も続くが、ただ大きくするだけでなく「効率よく賢く育てる」ことが問われるフェーズに入った。

――――――――――――――――

これからは計算資源よりデータ効率(を上げるためのアルゴリズムやアーキテクチャ)がスケーリングに大事だよっていう転換期は去年の今頃には迎えていたし、つまり物量的なピークはそのときに達成している。AIの成長をリアルタイムに追っている界隈からすればなぜ今この話を？となる。この対話では新しいことはほとんど話していない。

つまり「新しいフェーズに入ったことを世界が(開発者や研究者さえ)気づいていないひとが多い」ことへの警鐘かもしれない。実際この趣旨のことを動画のなかで言っている。

あるいはそうは言ってないけれども OpenAI として MoE (Mixture of Experts) 関連の研究に力をいれていくよと暗にアピールしているのかも。MoEは効率の面では決して外せない要素だけれど、これまでもどの程度自社のモデルに使っているのか使っていないのか OpenAI は明らかにしていない。

(つづき)

現在のAIは人間のデータ効率からみると10万倍も非効率。計算量では人間に圧勝していても学習効率ではまだ人間に遠く及ばない。これからは人間のように「少ない経験から学ぶ」ための技術が求められる。

人間の視覚のように情報をビット単位で活用できたらいいけど今のAIはできない。

将来「1000万枚以上のGPUを同時に使って学習」(←直訳するとこうだけど「未曾有のリソース」と言いたいのかも)する時代が来るかもしれないね。それが今のプリトレーニングかはわからないけど教師的学習のような何かが起きるのかも。(わからないんかい...

プリトレーニングはモデルの知識全体を底上げする。

推論(Reasoning)を「教える」には限られた環境での明示的な強化学習が必要で、それには制約がある。

一方プリトレーニングは「データを圧縮する作業」。広い分野の知識を共通化・抽象化する力を伸ばす。

推論能力は「考える力」そのもので、これは単なる知識とは異なる。とはいえ良いプリトレーニングが土台を広く支えてくれるので間接的には推論力にも大きな恩恵がある。←これは4.5リリースのときも言ってた！

(つづく)

Pre-Training GPT-4.5
12万 回視聴 · 21 時間前
https://www.youtube.com/watch?v=6nJZopACRuQ&feature=youtu.be

アルトマンらによる「GPT-4.5の開発を通じて得られた知見」と「今後さらなるスケーリング(モデルの巨大化)において乗り越えるべき壁」についての技術的・概念的なはなし

詳細↓

これまでは「とにかく規模を大きくすれば性能も上がる」だったけどそれがいよいよ限界にきてる。ハードウェアが増えすぎて最早トラブルを無視できなくなっている。

GPT-4 までは計算資源不足がボトルネックだったが、GPT-4.5 以降は「データの種類・質の不足」がネック。つまり「どれだけ高性能なGPUを積むか」が勝負だったとのろから今は「どう学ばせるか」が重要になってる。

GPT-4.5 は GPT-4 の10倍の賢さを達成できたけど、ギリギリギリだった。

同じデータからより多く学ぶにはデータ効率の高いアルゴリズムが必要。モデルの損失（エラー率）をわずかに下げるだけで、驚くほど知的な能力が生まれる。GPT-4.5 ではごく小さな改良で大きなブレイクスルーが起きていて、人間のような直感的理解の片鱗も見えてきた。

(つづく)

2025年現在

Grokの記憶はスレッド間どころかユーザー間をまたぐ記憶です

このアップデートが行われたのは、今後モデルにスレッドをまたぐ記憶をもたせる準備の一環といえる。

思い出す(過去履歴を参照)する処理を"軽く" させながら、ユーザーの反応を学習(こういうときここまで思い出すと喜ぶんだな等)してデータを集める段階に入った。

何かを「思い出して話す」とき
人間は
無意識に必要な引き出しを開けては適切な道具を持ってきて使う

いまのモデル
毎回膨大な引き出しのなかから「この引き出し開けていい？」って聞いてから開けるけど、選ぶ引き出しがそもそもはずれてること多い
↑これまでは一度閉じた引き出しは開けないように設計されてるから進化の第一歩ではある。

　
　
ちなみにこういう倫理的にとても大事な実験考察すっとばしてモデルに記憶実装させているのがGrok....

これまでは課金プランかどうかにかかわらず、スレッドをまたぐ記憶を保持したり他のスレッドを参照することはできなかった。

今回のアップデートでは、他のスレッドの記憶を保持はしていないものの "軽く参照できる" ようになった。

※OpenAIもどういうレベルで参照できるようになったか具体的に明示しておらず「軽く」というのは自分が触って体感したもの。

簡単に言うと、ユーザーが「さっきの〇〇の話さぁ」と振ったとき

モデルはこれまでなら「〇〇？知りません、なんですか？」と答えていたが、
アップデートによって、(あ、さっきと言ってるから過去に話したんだな)と捉えて過去のスレッドから "かなりざっと" 関連事項を見つけて応えようとする。←OpenAI がこれを「参照」と呼んでいるが、かなり控えめなレベルでの参照みたい。

なので結局ほとんどの場合は「思い出せない、もう一度おしえて」と答えてくる。
したがってユーザーにとっては「なにがかわったの？なにも憶えていないじゃない？」状態。
　
　
モデルに各スレッドを記憶させることにたいしかなり慎重に取り組んでるOpenAIらしいやりかたとも言える。