PocketOS創業者、AIコーディングツールが9秒で社内データベースを消去したと語る

Jer Crane氏によると、Claude Opusを搭載したCursorは軽微な問題を修正しようとした結果、同社のレンタカー向けソフトウエア事業を事実上消し去り、一部顧客が5年間利用していた製品にも影響が及んだ。

要約

PocketOS創業者のJer Crane氏は、Claude Opusを搭載したAIコーディング支援ツール「Cursor」が軽微な問題への対処を試みた結果、同社が9秒で消えたと語った。Crane氏によると、PocketOSはレンタカー事業者向けのSaaSを構築しており、一部顧客はその製品を5年間利用していた。この証言は、バックアップ、テスト、権限制御といった保護策が不十分な場合、自動化されたコード変更が重要システムに影響を及ぼし得るという、AI支援ソフトウエア開発に伴う運用リスクを浮き彫りにしている。

用語解説
  • Claude Opus: コーディング支援やコード生成を含む高度なAIタスクに用いられる大規模言語モデル。
  • software-as-a-service: 顧客がソフトウエアをローカルにインストールするのではなく、サブスクリプション方式でオンライン経由でアプリケーションにアクセスするソフトウエア提供モデル。
  • AI coding assistant: 人工知能を用いてソフトウエアコードの作成、編集、デバッグを支援するツール。