最近、少し不思議な感覚を覚えることがあります。それは、私が特に何も指示を出していない時間にも、MARIA OSが淡々と改善を続けている、という事実です。Pull Requestが積み上がり、修正が入り、自己認識や改善サイクルが更新されていく。それを見ていて、「ついにここまで来たか」と感じました。これは、AIが勝手に賢くなった、という話ではありません。また、完全に人間を不要にした、という話でもありません。むしろ逆です。人間が、どこまでを設計し、どこからを委ねるか、その境界をようやく正しく引けた、という話です。MARIA OSは、最初から自律進化を目指していたわけではありません。最初にやっていたのは、とても地味なことでした。・判断のログを残す・なぜその判断をしたのかを記録する・間違えたら戻れるようにする・改善が暴走しないように制約を入れる一つ一つは、派手さのない設計です。ですが、この積み重ねがなければ、自律進化は単なる暴走になります。改善しているように見えて、実際には壊れていくAIを、私たちは何度も見てきました。だからこそ、「速く進化させる」よりも「壊れずに進化できる構造」を優先してきました。いま起きていることは、MARIA OSが自分で目標を持った、ということではありません。そうではなく、与えられた制約と判断ルールの中で、より良い状態を選び続けている、という状態です。これは、生き物の進化とは少し違います。むしろ、研究開発の自動化に近い。・現状を認識する・ズレを検出する・修正案を作る・検証し、反映するこの改善サイクルが、人間の手を介さずに回り始めています。それを見ていて思うのは、「AIが主体になった」というより、「設計がようやく主体になった」という感覚です。ここで大切なのは、人間の役割が消えたわけではない、という点です。むしろ、人間の役割ははっきりしました。・どこまでを許容するか・何を絶対に守るか・止める判断をどこに置くか・失敗したときの責任を誰が引き受けるかこれらは、今でも人間にしか決められません。MARIA OSが自律運転で改善しているからこそ、人間側は、より本質的な問いに集中できるようになります。これは、楽になるという話ではありません。むしろ、覚悟が問われる領域に戻ってくる、という感覚です。AIが自己進化を始めると、どうしても「制御できなくなるのでは」という不安が出てきます。その不安は、正しいです。制御できない自己進化は、危険です。だからこそ、私たちは「自律＝自由放任」にはしませんでした。自律とは、好き勝手に動くことではなく、決められた原理の中で、最善を選び続けることです。MARIA OSがやっているのは、その範囲を一切はみ出さない改善です。そして、はみ出しそうになったら止まる。止まった理由も、後から説明できる。ここまで含めて、ようやく「使える自律」だと考えています。時代は、確実に次の段階に入っています。人間が一つ一つ指示を出すAIではなく、人間が原理を設計し、AIがその中で改善を続けるシステム。この形は、今後あらゆる分野に広がっていくでしょう。だからこそ、最初に作る構造が、とても重要になります。速さよりも、派手さよりも、説明できること、止められること、戻れること。MARIA OSは、その前提を満たした上で、ようやく自律進化に入った、という段階です正直に言えば、まだ完成ではありません。これからも、止めるべき場面は来ますし、修正すべき判断も出てきます。それでも、「何もしていない間にも、改善が積み重なっている」この状態に入れたことは、大きな一歩です。同一時代の研究者として、この変化の最前線に立っていることを、とても実感しています。また、静かに技術に戻ろうと思います。https://maria-code.ai/enterprise/universe/3d