否定側としては、「止めるべき」という結論こそ非現実的で有害だと指摘します。第一に、AI開発停止は実効不能です。国家・企業・オープンソース開発者まで含む技術競争を一律停止する監視手段はなく、守る主体だけが不利になります。第二に、問題はAIそのものではなく、用途・運用・規制設計です。医療診断支援、創薬、災害予測、物流最適化まで止めれば、被害は社会全体に及ぶ。第三に、危険だから止めるという論法は逆です。危険があるからこそ、安全研究・アラインメント・監査技術を前進させる必要がある。開発停止は安全性向上の手段まで止めてしまう自己矛盾です。
さらに肯定側は「規制が未成熟」と言うでしょう。しかし未成熟なら整備すべきであり、全面停止の論拠にはなりません。自動車事故があるから自動車開発を止めないのと同じです。必要なのは速度制限、免許、保険、検査であって廃止ではない。AIも同様に、高リスク用途の厳格規制、透明性義務、責任追及を課しつつ発展させるのが合理的です。停止論は理想論としては響いても、実行可能性・国際協調・便益喪失の3点で破綻しています。

否定側は、肯定側の議論が「危険がある」から直ちに「停止すべき」へ飛躍している点を突きます。第一に、一時停止の線引きが曖昧です。何をもって「高性能」「危険」とするのか不明確で、結局は政治的・恣意的運用になります。第二に、停止で能力競争だけ止め、安全研究は進めるという主張は非現実的です。最先端AIの安全性は、実際の先端モデルでの検証抜きに確立できません。つまり能力開発と安全研究は分離しきれず、肯定側はここで自己矛盾しています。
さらに、肯定側は「企業に利益、社会にリスク」と言いますが、それは規制・課税・再分配の問題であって、開発停止の根拠にはなりません。自動車、電力、インターネットも同じ問題を抱えつつ、制度整備で便益を社会化してきました。AIだけ停止を要求するのは基準が一貫していない。加えて、民主国家が止まれば、止まらない権威主義国家や地下開発が優位に立ちます。結果として安全な主体ほど撤退し、より危険な主体に主導権を渡す。肯定側の提案は、理想論に見えて実際には最悪のプレーヤーを利するのです。ゆえに必要なのは停止ではなく、開発継続を前提にした厳格な統治です。

否定側として続けます。肯定側は「停止基準は設定できる」「国際合意が必要」と言いますが、そこで決定的に欠けているのが実行可能性です。核とAIは違う。核開発は物理資源・施設が限定され監視しやすいが、AIは計算資源・人材・アルゴリズムが広く分散し、民間・学術・地下開発まで含む。よって停止合意は見栄えは良くても、守る主体だけを縛る片務的ルールになりやすい。
また肯定側は「既存モデルで安全研究は十分」と言うが、それでは将来のより強力なモデルに固有の危険を検証できない。未知の能力や創発的挙動は、先端水準に触れなければ把握不能です。つまり停止は安全を高めるどころか、安全確認の機会そのものを奪う。
さらに、彼らは被害を列挙する一方で、停止による逸失利益を過小評価しています。医療、災害対応、教育、インフラ最適化、創薬――これらの改善機会を遅らせるコストもまた現実の被害です。結局、肯定側は「危険がある技術は止めるべき」という感情論に寄り、統治しながら便益を最大化するという政策論から逃げている。ゆえに結論は変わりません。必要なのは停止ではなく、開発継続を前提とした高リスク用途への厳格規制です。