要約
自動的な細胞および核の検出とセグメンテーションは、多くの生物学的応用において重要な役割を果たしています。最近の成功した学習ベースのアプローチには、ピクセルごとの細胞セグメンテーションとその後のピクセルグループ化、またはバウンディングボックスの局在化とその後の形状改良が含まれます。しかし、細胞が密集している状況では、これらの方法は境界細胞を誤って結合したり、バウンディングボックスによる近似が不十分なために有効な細胞インスタンスを抑制するなどのセグメンテーションエラーを引き起こしやすいです。これらの問題を克服するために、我々は星形凸多角形（star-convex polygons）を使用して細胞核を局在化することを提案します。これはバウンディングボックスに比べて形状表現が優れているため、形状改良が必要ありません。この目的のために、我々は各ピクセルに対してその位置にある細胞インスタンスの多角形を予測する畳み込みニューラルネットワークを訓練しました。我々は2つの合成データセットと1つの多様な蛍光顕微鏡画像からなる困難なデータセットで本手法の利点を示しています。