跳到主要內容

窮人的 AI:自動漫畫分鏡切割

 (試試看)

在手機上看漫畫時,有一個體驗上的問題:

  • 漫畫原本是「整頁設計」

  • 手機最適合的是「一格一格往下滑」

與其強迫使用者縮放、拖曳、放大,更直覺的做法是:

直接把一頁漫畫自動切成多個分鏡,轉成瀑布流閱讀。

這篇文章分享一個不靠深度學習、完全在前端完成的實作方式:

  1. 使用 OpenCV.js 做分鏡偵測

  2. 輸出 rect list

  3. 再用 全畫面 Canvas 把每個分鏡當成一個「閱讀單位」

整個系統可以拆成三層:

漫畫圖片
   ↓
影像處理(找出 rects)
   ↓
排序後的 rect list
   ↓
全畫面 Canvas 逐格呈現(瀑布流)

Step 1:灰階化

漫畫的資訊 90% 都在線條上,顏色反而是干擾。

cv.cvtColor(src, grayImage, cv.COLOR_RGBA2GRAY);

灰階化的好處:

  1. 降低維度

  2. 對邊緣偵測更穩定

  3. 對黑白漫畫特別有效




Step 2:邊緣偵測,抓出「分鏡的邊」

接下來用最經典、也最夠用的 Canny Edge Detection:

cv.Canny(grayImage, edges, 50, 150);

在漫畫中,分鏡外框通常就是最明顯的邊界。



Step 3:形態學操作,把破碎邊框「補起來」

真實漫畫的線條並不完美,常常有斷線、陰影、留白。

所以要做一個很重要的步驟:膨脹(Dilation)

const kernel = cv.Mat.ones(5, 5, cv.CV_8U);
cv.dilate(edges, dilatedEdges, kernel);

直覺理解就是:

把細線「抹粗一點」, 讓本來斷掉的邊界連成封閉區域。

這一步直接決定後面能不能成功抓到「一整格分鏡」。



Step 4:找輪廓,轉成矩形框(rect)

有了封閉區域之後,就可以找輪廓:

cv.findContours(
  dilatedEdges,
  contours,
  hierarchy,
  cv.RETR_EXTERNAL,
  cv.CHAIN_APPROX_SIMPLE
);

每一個 contour,代表一個「可能的分鏡區塊」。

接著轉成矩形:

const rect = cv.boundingRect(contour);
rects.push([rect.x, rect.y, rect.width, rect.height]);

並用面積過濾掉雜訊:

if (cv.contourArea(contour) > 5000) { ... }

Step 5:移除「被完全包住」的多餘 rect

實務上你一定會遇到這種情況:同一格分鏡,被抓出「一個大框 + 一個小框」。

這時不需要聰明演算法,只要幾何判斷:

function isFullyOverlapped(small, large) {
  return (
    x1 >= x2 &&
    y1 >= y2 &&
    x1 + w1 <= x2 + w2 &&
    y1 + h1 <= y2 + h2
  );
}

完全被包住的,直接丟掉。



Step 6:排序 rect,讓它「像是在看漫畫」

這一步非常關鍵,也非常不完美,但夠用。

rects.sort((a, b) => a[1] - b[1] || b[0] - a[0]);

意思是:

  1. 先由上到下

  2. 同一排由右到左

⚠️ 這不一定符合所有漫畫的分鏡語法,但在手機瀑布流閱讀中:

「大致合理」比「絕對正確」重要得多

 


到這一步,我們已經有:

[
  [x, y, w, h],
  [x, y, w, h],
  ...
]

每一個 rect,本質上就是一個「閱讀單位」

現在可以拿來作顯示了。



全畫面 Canvas 的好處,如果你把每個 rect:

  1. 裁切成獨立圖片

  2. 或在 Canvas 中單獨 render

  3. 一個 rect = 一個 viewport

你會得到幾個好處:

✅ 天然支援瀑布流:使用者只需要滑,不需要縮放。

✅ 對不同螢幕尺寸友善Canvas:可以等比縮放到全寬。

✅ 分鏡順序錯一點也沒關係:因為使用者是「連續閱讀」,不是在解析作者構圖。

✅ 非常適合手機:這點真的差很多。


這套方法有一個很重要的前提:

我們只試圖改善呈現方式。

所以它:

❌ 不用深度學習

❌ 不用標註資料

❌ 不追求 100% 正確分鏡語法

✅ 快

✅ 可解釋

✅ 前端即可跑

對很多產品來說,這其實是更好的工程解法。


很多人一提到「漫畫分析」,就直覺想到 AI / Model / Training。

但實際上,只要簡單的影像處理就能作到90分,讓手機看漫畫更舒服。

這就是低科技,窮人的 AI 應用 ><

(試試看)



留言

這個網誌中的熱門文章

以lex/yacc實作算式計算機

前面我們透過 手工的方式 實作了一個簡易的算式計算機,現在我們要開始使用工具來作同樣的事,比較看看手工和使用工具有什麼不同的差別。首先要介紹的就是lex&yacc。 lex & yacc lex(Lexical Analyzar)及yacc(Yet Another Compiler Compiler)是用來輔助程式設計師製作語法剖析器的程式工具。lex的工作就是幫助我們將輸入的資料文字串流分解成一個個有意義的token,而yacc的工作就是幫我們分析這些token和我們定義的規則作匹配。下圖中所表示的是使用lex及yacc的一般工作流程。 首先看到yacc會讀入一個.y檔案,這裡.y檔案的內容就是我們使用類似(E)BNF語法定義的語法規則,yacc會分析這些語法規則後,幫我們產生可以用來解析這些規則的程式碼,而這個檔案一般名稱預設為y.tab.c,產生的程式碼裡面最重要的一個的函式叫作yyparse。 同yacc類似,lex也會讀入一個.l的檔案,這個檔案裡面定義的是如何從文字流裡解出token的規則,使用的方法是常規表示式(regular expression)。在圖的左側中間我們還可以看到有一個叫作y.tab.h的檔案從yacc產生出來並餵給lex作輸入,這個檔案是yacc根據在讀入的.y檔裡面所定義的token代號所產生出來的一個header,這樣yacc及lex產生出來的程式碼裡面就可以使用共通定義的代碼而不必各寫個的。lex分析過.l檔案後也會產生一個一般預設叫作lex.yy.c的原始碼檔案,裡頭最重要的一個函式叫作yylex。 最後,我們把yacc產生出來的y.tab.c還有lex產生出來的lex.yy.c,以及其它我們自己撰寫的原始碼檔案一起拿來編譯再作連結,最後產生出來的就是一個可以用來解析我們定義的語法的解析器工具。以上是整個lex及yacc的使用流程概觀。 常規表示式 在正式使用lex之前,我們首先來對常規表示法作一個基本的認識。常規表示法是一種用來表示字串樣式(pattern)的中繼語言,就好比前文所介紹的(E)BNF表示式一樣,都是用來描述其它語言的語言,只不過用途不太一樣罷了。 常規表示式使用一些中繼符號(meta-symbol)以及ASCII字元定義字串樣式,以下列出一些常規表示式所使用的符號。 . 表示除了換行字元...

單人撲克牌遊戲 - 蒙地卡羅

更多可在網頁玩的 單人撲克牌遊戲 ; 新增一個簡單的單人撲克牌遊戲: 蒙地卡羅 ,簡單介紹一下玩法。 下載 事先排列好5x5張牌。 每次移動一張可以配對的牌,並消除這對牌。在上下、左右及斜向相隣的二張牌,只要擁有同樣數字(不計花色),即可配對。 消除二張配對的牌後,剩餘的牌以往左往上的方式補滿空隙,接著在發新牌補滿後面的空格。 重覆步驟2~3,直到沒有牌可以配對及發完所有牌為止。 結果有二種。一個是勝利,成功的消除掉所有牌。另一個是Gameover沒有牌可以再作配對。

關於C/C++的指標

我想應該還有不少人在使用指標上有些地方觀念不大清楚,比如說下面二個函式,那個是正確的?為什麼?像這樣的問題如果弄不清楚,寫出來的程式一定非常危險。 // 為簡化忽略檢查 void alloc_mem(char* p) // 版本1 {   p = new char[100]; } void alloc_mem(char** p) // 版本2 {   *p = new char[100]; } 如上,這個函式要配置大小是100個字元的記憶體並從傳入的參數p回傳,這二個版本除了輸入參數不一樣外大致上是一樣的;從第一個版本來看,參數是一個字元指標,記憶體配置出之後直接傳給p,如果觀念正確的人一定可以馬上指出這樣的寫法是錯誤的,第二個版本才是正確能work的。 現在就來說明為什麼,在這之前先要了解在C/C++中,函式的參數是如何傳遞的,在C/C++中函式的呼叫所傳入的參數是透過堆疊(Stack) 來傳入函式的,不懂什麼是堆疊也沒關係,就把它看成是另外一塊記憶體也行,當在程式中呼叫某個函式時,傳入的參數會先被複製到這塊記憶體中,當在函式中要使用這些參數時再從堆疊中去取出來。 以版本1的例子來說明,如下在程式中大概會這樣呼叫。 char* pp = NULL; alloc_mem(pp); pp一開始的初值是NULL,當呼叫alloc_mem時,pp的值會被複製到堆疊中(傳址),這種情況和以下的code事實上是對等的,只不過 p的值一開始被初始化成和pp的值一樣,p就好像一個區域變數一樣,一離開函式後這個變數就無效了,所以在外面的pp的值永遠都不會改變,同時在涵式中 new出來的記憶體也lost掉了。 void alloc_mem() {   char* p = new char[100]; } 再來看版本2,它的參數是一個指標的指標,這是什麼意思,我們先從實際使用上來看,如下。 char* pp = NULL; alloc_mem(&pp); 這次我們把pp這個變數的位址傳入涵式,所以在涵式中所得到的是pp這個變數的位址,在函式中p所含的內容是pp的位址,pp是一個char*形態的變數,p是一個指標它的內容是char*的形態,現在p已經指向pp了,所以對p的內容作改變,相對的pp的值也會跟著改變。 現在來看另...