拡散モデルを用いたSAR画像のカラー化(再現)・超解像化

    合成開口レーダー(SAR)は、昼夜を問わず雲を透過するなど天候に左右されずデータが収集できるレーダーです。災害時など迅速な情報収集が必要な場合において、 光学センサーと比較して即時にデータが取得できる利点があります。しかしセンサの特性として、光学系のセンサーと比較して可視化可能な画像に変換するには向いていません。 そこでオービタルネットでは、拡散モデルを用いてSAR画像から鮮明なカラー画像を取得する研究をはじめました。 SpaceNet(https://spacenet.ai/)が公開している、Capella Space社の0.5m解像度の合成開口レーダー(SAR)画像とMaxar社のWorldView-2衛星の0.5m光学電子(EO)画像を組み合わせたデータセットを使用しました。 画像の対象は、オランダのロッテルダムを中心としたエリアのため、このモデルを日本で使用するには、もうひと工夫必要になると思います。 まずは、全36,000枚の学習用画像のうち、5,000枚ほどで学習した結果をご紹介します。テストに使用した画像は学習用データセットから取り除いたもので、結果はGround Truthと比較できるようにしています。 カラー化、ノイズ除去、超解像化(2倍)をパイプライン処理しています。

  • SAR画像のカラー再現・超解像化(2倍)
    SAR衛星画像のカラー再現1
    SAR衛星画像のカラー再現2
    SAR衛星画像のカラー再現3
    SAR衛星画像のカラー再現4
    SAR衛星画像のカラー再現5
    拡散モデル(Diffusion Model)を用いた衛星画像の超解像
    オービタルネットでは画像生成AI(拡散モデル)を用いた衛星画像の超解像化に取り組んでいます。 衛星画像を超解像化した際のハルシネーション*1を抑えるための試行錯誤を繰り返しながら今に至っています。 空中写真よりも安価で且つ広域を短期間で撮影できることのメリットを活かしながら鮮明な画像を生成して 目視判読やマッピングが可能なレベルまで精度向上させることを目指しています。 衛星画像にもさまざまな種類・画像分解能がありますが、当社ではSentinel-2(10m)、GRUS(2.5m)、WorldView-2(50cm)(何れもTrue Color)など様々な分解能の衛星画像をターゲットとしています。 例えば、Sentinel-2の衛星画像では住宅街の道路は目視では判読できませんが、超解像化により住宅街の道路は街並みなどの状況から見事に復元されています。 また、10m未満の建物も本来復元できませんが、元画像と学習した結果によって建物などを推測して街並みを再現しています。
    GRUSの衛星画像は、建物・道路などの地物が再現できるようになります。
    WorldView-2の衛星画像は、超解像化によってAIによる建物・道路のマッピングが可能になります。*2

    *1 人工知能(AI)が事実に基づかない誤った情報を生成する現象
    *2 雲・雲影、ヘイズなどによる画質の劣化、オフナディア角による建物の傾きなどの影響を受けていない場合


    以下の超解像画像はページの都合上、画像サイズを半分以下に縮小していることご了承ください。

  • Sentinel-2 (10m解像度)
    Sentinel-2 (10m解像度)
    Copernicus Sentinel Data
    矢印
    超解像(×4)
    超解像(×4)
    Sentinel-2 (10m解像度)
    Sentinel-2 (10m解像度)
    Copernicus Sentinel Data
    矢印
    超解像(×4)
    超解像(×4)
    以下は、Sentinel-2(10m)の衛星画像、AIで生成した超解像画像(2.5m)とGround Truth(50cm)とを比較したものです。 25cmや50cm解像度の画像と比較すると小さな地物は確実には再現できていませんが、街並みや道路などはほぼ再現できていることが分かります。 時点の違いますので造成地など大規模な地物に違いがある場合があります。
    超解像(×4)とGround Truthとの比較
    超解像(×4)とGround Truthとの比較
    以下はGRUS(グルース)という国産の超小型衛星の地上分解能2.5mの画像を超解像化したサンプルです。 画像は有償ですが価格も比較的安価で今度の普及が見込まれます。 2.5mの解像度ですが、全体的にぼやけた感じがありますので、なんらかの画像処理を施す必要があるように思えます。 そこで超解像化を行うことによりより鮮明・高精細な画像になります。
    GRUS(2.5m解像度)
    GRUS(2.5m解像度)
    ©Axcelspace
    矢印
    超解像(×4)
    超解像(×4)
    GRUS(2.5m解像度)
    GRUS(2.5m解像度)
    ©Axcelspace
    矢印
    超解像(×4)
    超解像(×4)
    以下は、GRUS(2.5m)の衛星画像、AIが生成した超解像画像(約60cm)とGround Truth(25cm)とを比較したものです。 趙解像画像には若干のハルシネーションはあるものの、Ground Truthと比較してほぼ違和感なく生成されていることが分かります。 Ground Truthとしていますが比較画像と時点や季節などが違いますので参考程度にご覧いただければと思います。
    超解像(×4)とGround Truthとの比較
    超解像(×4)とGround Truthとの比較
    以下はWorldView-2で撮影されたTrueColor 50cm解像度の不可逆圧縮画像を4倍に超解像化した画像です。 不可逆圧縮特有のノイズを除去して鮮明になっていることがわかります。
    WorldView2(50m解像度:不可逆圧縮済)
    WorldView2(50m解像度:不可逆圧縮済)
    ©Maxar Technologies
    矢印
    超解像(×4)
    超解像(×4)
    WorldView2(50m解像度:不可逆圧縮済)
    WorldView2(50m解像度:不可逆圧縮済)
    ©Maxar Technologies
    矢印
    超解像(×4)
    超解像(×4)
    ◆Youtubeのオービタルネットチャンネルより
    (画像生成AIを用いた衛星画像・空中写真画像の超解像化ソリューション)
    Transformerを用いた衛星画像のオート・マッピング

    オービタルネットでは、生成AI技術(Transformer)を用いた衛星画像の地物判読に取り組んでいます。 その中でインスタンス・セグメンテーションによる地物単位での検出と境界判定による地物マスクの生成を行います。 セグメンテーション・マスク画像から一つ一つの地物形状をポリゴンとして記録していき、GeoJSONやシェープファイル等へ出力します。 インスタンス・セグメンテーションを使用する理由は一棟一棟明確に抽出・処理できるとことにあります。 地上解像度25㎝のオルソ画像から建物形状を抽出するようモデルを最適化しているので、 地上解像度50㎝程度の衛星画像から建物形状を抽出する場合には、一旦解像度25㎝へと超解像化を行ってからセグメンテーションを実施します。 現在では衛星画像においても空中写真オルソに匹敵する精度で建物を抽出できるようになりました。

  • Auto-Mappingの流れ
    衛星画像(超解像化)に建物ポリゴンをオーバーレイ 衛星画像(超解像化)に建物ポリゴンをオーバーレイ
    ◆Youtubeのオービタルネットチャンネルより
    (画像認識AIを用いた衛星画像・空中写真画像のオートマッピング・ソリューション)
    建物セグメンテーション画像から正規化した建物ポリゴンの生成

    WorldView-2など50㎝解像度の衛星画像からTransformerを使用して建物のセグメンテーション・マスク画像を生成して建物ポリゴンを作成することができます。 しかし、建物のマスク画像から直線的な形状や建物の角をシンプルにポリゴン化することは簡単ではありません。 既存のアルゴリズムや後処理でポリゴン形状を単純化することはできますが、それでも建物の形状をよりシンプルで自然な形状でポリゴン化することには限界があります。 そこで、オービタルネットでは、AI処理で生成した建物セグメンテーション・マスク画像から、建物の形状をよりシンプル且つ自然な形状でポリゴン化する建物正規化アルゴリズムを開発しました。 これで、衛星画像から綺麗な建物マップを作成することができるようになりました。

  • 建物形状の正規化
    建物形状の正規化・ポリゴン化(白図)
    衛星画像を用いた建物オートマッピングの最終成果
    建物形状の正規化(白図)
    Transformerを用いた道路エリアの抽出及び道路中心線生成

    Transformerを用いて、空中写真からセメンティック・セグメンテーションにより道路エリアを抽出した例です。 建物よりも低解像の空中写真(50㎝解像度)から高精度で抽出できることが特徴です。また、道路ポリゴンから道路中心線を生成することも可能です。 しかし、道路や鉄道、歩道橋などによってブラインドになる部分は正しく抽出できない(していない)ため正確な道路ネットワーク情報を取得することはできませんが、 最新の画像を使用することによって差分により最新の道路エリアを取得することが可能です。

  • セメンティック・セグメンテーションによって抽出した道路エリア(ポリゴン化)
    道路エリア
    取得元の空中写真にオーバーレイ表示 オーバーレイ表示(空中写真:50㎝解像度)
    道路中心線の生成 道路中心線(空中写真:50㎝解像度)
    Transformerを用いた衛星画像のAI判読

    ChatGPTをはじめとするLLM(大規模言語モデル)の生成AIは私たちの生活に浸透し、様々なビジネスにおいてもパラダイムシフトが起き始めています。 その生成AIの核となっているのは『Transformer』というネットワークモデルです。 自然言語処理に限らず、画像解析の分野においても『Transformer』を使ったAIが競うように登場し、日進月歩の勢いで技術革新が起こっています。 オービタルネットのこの潮流に乗って衛星画像・空中写真画像の地物抽出に『Transformer』を使用したAIシステムを構築しました。 従来のCNN(畳み込み)技術と比較して、地物検出及びセグメンテーションの精度向上を図ることができました。

  • 駐車場(衛星画像:50㎝解像度)
    駐車場(衛星画像:50㎝解像度)
    ソーラーパネル(衛星画像:50㎝解像度) ソーラーパネル(衛星画像:50㎝解像度)
    道路中心線(衛星画像:50㎝解像度) 道路中心線(衛星画像:50㎝解像度)
    家屋異動判読調査

    地方自治体に於いて、これまで目視で行ってきた固定資産管理業務のうち家屋異動判読調査を画像認識AIで自動化を図ることが可能です。 例えば家屋管理図などを比較対象として、新規に撮影した衛星画像や空中写真画像から画像認識AIを用いて家屋の外形データを抽出し(画像上)差分をとれば、これが新増築データ(画像下の青色部分)になります。逆にAI判読結果を比較対象とした家屋管理図との差分が滅失データになります。

  • 画像認識AIによって抽出された家屋形状 画像認識AIによって抽出された家屋形状
    家屋形状差分抽出による新・増築部分の可視化 家屋形状差分抽出による新・増築部分の可視化