圧縮情報処理ユニット　　　田部井 靖生 Succinct Information Processing Unit

Yasuo Tabei　

目標 : 大規模データ解析のため圧縮情報処理技術の開発 利点 : IoT機器などの限られた計算リソースでの大規模データ 解析が可能 　　　 巨大なデータ

圧縮データ データ解析技術 ・ 類似度検索 ・ 線形モデルの学習 ・ カーネル法 ・ 文字列処理 etc アクセス

ゲノム秘匿検索 (IDASH コンペで3位入賞)

利点： 一回の通信のみで検索可能　　　　　 成果：ゲノムの秘匿検索において、従来法よりも高速な検索が可能になった

Client

暗号化されたゲノム

答え（暗号化）

復号せずに計算

Database

アイデア •  SMM問題を一度に解くオートマトンをブール回路で実装 • 完全準同型暗号上で任意のブール回路を評価できる 高速暗号化演算TFHEを利用し、暗号化上での高速検索を実現

背景：ゲノムを暗号化したまま他所のデータ ベースに送信して分析したい（秘匿計算） 問題設定：clientのゲノムとデータベースの ゲノム集合で最長一致している各部分文字列 を返す (SMM) 問題点：従来手法は何度も通信するので非効率 [Shimizu et al.’16]

1

ε

0

00

11 _1

10

000 _00

110 _10

101 _01

__1

0000

0001 _001 __01

1011 _011 __11

1100 _100

___0

問題：反復文字列と呼ばれるゲノムなどの文字列の圧縮 問題点 : 現在主流の可逆圧縮アルゴリズムはLZ77に基づく LZ77（従来法）は前方参照のみで圧縮 　　　 後方参照を用いればより高圧縮を期待できる アイデア：双方向参照可能なフレーズで貪欲に分解 結果:フレーズ数が常にLZ77以下であることを証明 　　　 実験ではLZ77とほぼ同じ圧縮速度と作業領域で圧縮率を 　　　　 　　 ５％小さくすることに成功

提案⼿法（双⽅向参照）LZ77（前⽅参照）

LZRR: 双方向参照を利用したデータ圧縮法 (DCC’19)

実験データ フレーズ数 実行時間 [sec]

使用メモリ [MB]

LZRR LZ77 LZRR LZ77 LZRR LZ77 fib41 (267MB) 5 22 113 99 11,978 6,542 rs.13 (216MB) 51 52 110 80 9,654 5,292 tm29 (268MB) 31 56 142 108 11,797 6,554 einstein.de.txt (92MB) 31,798 34,287 27 24 3,808 2,266 einstein.en.txt (467MB) 83,368 89,437 147 130 19,196 11,418 world leaders (46MB) 165,626 175,670 16 8 1,939 1,148 influenza (154MB) 720,282 779,213 51 42 6,351 3,781 kernel (257MB) 741,556 794,938 88 71 10,602 6,299 cere (461MB) 1,597,657 1,695,631 500 131 18,925 11,263 coreutils (205MB) 1,359,606 1,441,384 68 56 8,453 5,013 Escherichia Coli (112MB) 1,962,013 2,078,869 46 32 4,632 2,752 para (429MB) 2,205,032 2,338,919 203 125 17,609 10,481

スケーラブルな類似度検索のための簡潔なTrie索引の開発

背景 Webページ、画像、分子データなどの高次元 なベクトルデータに対し類似度検索をしたい 高次元なベクトルデータは低次元な整数ベク トルに写像することで効率的に類似度検索で きるしかし、そのデータベースが大規模な場 合、素朴な検索では時間が掛かりすぎる！

提案手法 Trie木を用いて索引を構築 枝刈りなどを応用し、高速に類似度検索 簡潔データ構造とヒューリスティックを組み 合わせることで高いメモリ効率を実現 実験結果 10億オーダーの高次元ベクトルデータベース に対する索引をたった10GBで構築可能！ 　→ 既存の索引技術は30GB～40GBを要す る既存手法と比べ、最大で10倍以上高速に 検索可能！

→ 効率的な索引技術が必要！

提案手法：b-Bit Sketch Trie

1 2 3 41 1 0 0

5 6 7 81 0 1 0

9 10 11 120 0 0 1H1

1 2 3 41 1 0 1H0

1 1 1 1a a a b

1 0c dC2

B2

1 1 1 1a b a c

1 0b c

1dC3

B3

a b c d

a b c d a b c d a b c d

1 2 3 4 5 6

1 2 3 4 5 6 7

0.340.211.231.99⋮

0.87

0.451.340.020.91⋮

3.22

⋯2.430.011.950.37⋮

0.03

-~10/

abab

ddcc

bcbb

⋯

高次元

写像

索引化

大規模バーチャルスクリーニングのためのドラッグとタンパク質の相互作用予測 (APBC’19) 問題 : 相互作用既知のドラッグと タンパク質ペアーから予測モデル を学習し、ドラッグとタンパク質 ペアーが相互作用するかどうかを 予測 問題点:学習データ数がタンパク質 数と化合物数の積となる → 大規模学習問題

Bit string R11 1 1 10Bit string P11 1 1 01 Bit string R12 10 10 10 10 Bit string P12 01 01 01 01Bit string R13 10 10 10 100Bit string P13 01 01 01 001

i) Fingerprints of drug-protein pairsii) Set represetation of fingerprints (SET)

iii) Compute differences between k-th element S(Ci,Pj)[k] and (k-1)-th element S(Ci,Pj)[k-1]

iv) Variable-length array representation of fingerprints (VLA). S’ (Ci,Pj) is preresented by two bit strings Rij ,and Pij. S’ (Ci,Pj)[k] is representedby corresponding substring in Rij. Pij encodes length of each substring of Rij.

v) Trie representation of fingerprints (left) and succinct trie representation of fingerprints (SUCTRIE) (right). SUCTRIE consists of bit string and two arrays.

S11 S12 S13

6 98

2

1

2 3

4 5

6 7

8 9

0

1

1

2

2

2

2 4

Trie Succinct trie (SUCTRIE)

BitstringT

Array D

Array I

提案手法 : フィンガープリントで表現されたドラッグとタンパク質を圧縮し、 　　　　　圧縮されたデータ上で予測モデルをSVMで学習

結果 : 530万の学習データ(131GB)を24GBに圧縮した状態でSVMでモデル 学習可能。精度も高精度。 予測に有効な特徴量も抽出可能であり、創薬に有効な新規特徴が抽出 　　　できた

●

●●

● ●

0e+00 1e+06 2e+06 3e+06 4e+06 5e+06

0.95

0.96

0.97

0.98

0.99

1.00

# of compound−protein pairs

AUC

sco

re

● L1LOG−tensorL1LOG−concatL2LOG−tensorL2LOG−concatL1LOG−LIBLINEAR−tensor

●

●

●

●●

0e+00 1e+06 2e+06 3e+06 4e+06 5e+06

0.30

0.35

0.40

0.45

0.50

0.55

0.60

0.65

# of compound−protein pairs

AUPR

scor

e

● L1LOG−tensorL1LOG−concatL2LOG−tensorL2LOG−concatL1LOG−LIBLINEAR−tensor

Tabei et al. Page 14 of 15

Table 3 The association between KCF-S ”RINGC1x-C1x-C1y(C1z)-C1y(C1x)-C1y(C1x)-C1z(C1a+C1y)” and KEGG pathway module ”hsa M00110C19/C18-Steroid hormone biosynthesis”. See also Figure 5.

KCF-S RING C1x-C1x-C1y(C1z)-C1y(C1x)-C1y(C1x)-C1z(C1a+C1y)Module hsa M00110 C19/C18-Steroid hormone biosynthesisDrug D00040 Cholesterol (pharmaceutic aid) D00066 Progesterone (progestin)

D00067 Estrone (estrogen) D00075 Testosterone (androgen)D00105 Estradiol (estrogen) D00182 Norethisterone (progestin)D00185 Estriol (estrogen) D00289 Danazol (Anterior pituitary suppressant)D00312 Estrone sodium sulfate (estrogen) D00321 Finasteride (alpha-reductase inhibitor)D00389 Metandienone (androgen) D00408 Methyltestosterone (androgen)D00443 Spironolactone (diuretic) D00444 Stanozolol (androgen)D00462 Oxandrolone (androgen) D00490 Oxymetholone (androgen)D00492 Pancuronium (neuromuscular blocking agent) D00554 Ethinylestradiol (estrogen)D00575 Mestranol (estrogen) D00734 Ursodeoxycholic acid (anticholelithogenic)D00765 Rocuronium (neuromuscular blocking agent) D00767 Vecuronium (neuromuscular blocking agent)D00818 Maprotiline hydrochloride (antidepressant) D00948 Estropipate (estrogen)D00949 Hydroxyprogesterone caproate (progestin) D00951 Medroxyprogesterone acetate (progestin)D00952 Megestrol acetate (antineoplastic) D00953 Norethisterone acetate (progestin)D00954 Norgestrel (progestin) D00955 Nandrolone decanoate (androgen)D00956 Nandrolone phenylpropionate (androgen) D00957 Testosterone cypionate (androgen)D00958 Testosterone enanthate (androgen) D00959 Testosterone propionate (androgen)D00963 Exemestane (antineoplastic) D01161 Fulvestrant (antiestrogen)D01180 Trilostane (adrenocortical suppressant) D01217 Dydrogesterone (progestin)D01299 Chlormadinone acetate (progestin) D01301 Metenolone enanthate (anabolic)D01368 Cyproterone acetate (anti-androgen) D01375 Metenolone acetate (anabolic)D01413 Estradiol valerate (estrogen) D01617 Estradiol dipropionate (estrogen)D01639 Tibolone (Menopausal symptoms suppressant) D01943 Potassium canrenoate (aldosterone antagonist)D01953 Estradiol benzoate (estrogen) D01986 Estriol tripropionate (estrogen)D01989 Estriol diacetate benzoate (estrogen) D02566 Maprotiline (antidepresant)D03820 Dutasteride (prostatic hyperplasia) D03917 Drospirenone (aldosterone antagonist)D04061 Estradiol acetate (estrogen) D04063 Estradiol cypionate (estrogen)D04064 Estradiol enanthate (estrogen) D04065 Estradiol undecylate (estrogen)D04066 Estramustine (antineoplastic) D04316 Gestodene (progestin)D04947 Mesterolone (androgen) D05020 Mexrenoate potassium (aldosterone antagonist)D05209 Norgestimate (progestin) D05640 Prorenoate potassium (aldosterone antagonist)D06085 Testosterone ketolaurate (androgen) D06086 Testosterone phenylacetate (androgen)D06087 Testosterone undecanoate (testosterone) D07121 Alfatradiol (five alfa-reductase inhibitor)D07127 Norethandrolone (anabolic) D07221 Promestriene (estrogen)D07222 Nomegestrol (progestin) D07670 Chlormadinone (progestin)D07766 Cyproterone (antiandrogen) D07918 Estradiol hemihydrate (estrogen)D07919 Estradiol 17 beta-hemisuccinate (estrogen) D07920 Estriol succinate (estrogen)D07921 Estriol sodium succinate (estrogen) D08052 Hydroxyprogesterone (progestin)D08166 Medroxyprogesterone (progestin, antineoplastic) D08167 Megestrol (progestin)D08250 Nandrolone (anabolic, ophthalmic) D08281 Nomegestrol acetate (contraceptive)D08285 Norethisterone enantate (progestin) D08409 Prasterone (androgen)D08573 Testosterone decanoate (androgen) D08574 Testosterone phenylpropionate (androgen)D09701 Abiraterone acetate (anticancer)

Protein hsa:1586 cytochrome P450, family 17, subfamily Ahsa:1588 cytochrome P450, family 19, subfamily Ahsa:3283 steroid delta-isomerasehsa:3284 steroid delta-isomerase

Table 4 The association between KCF-S ”SKELETONC5a(N1b+O5a)-C1c(N1b)-C1b-C8y-C8x-C8x-C8x-C8x-C8x” and KEGG pathway ”hsa03050Proteasome” See also Figure 6.

KCF-S SKELETON C5a(N1b+O5a)-C1c(N1b)-C1b-C8y-C8x-C8x-C8x-C8x-C8xPathway hsa03050 ProteasomeDrug D00284 Cosyntropin (hormone, adrenocorticotropic)

D02108 Indium In 111 pentetreotide (radioactive agent)D03150 Bortezomib (anticancer, proteasome inhibitor)D08880 Carfilzomib (anticancer, proteasome inhibitor)

Protein hsa:3458 interferon gammahsa:5682 - hsa:5688 20S proteasome subunit alpha 1-7hsa:5689 - hsa:5699 20S proteasome subunit beta 1-10hsa:5707, hsa:5708, hsa:5713 26S proteasome regulatory subunit N1, N2, N8

Table 5 AUC scores, AUPR scores, training times in seconds, and consumed memory in megabytes inthe pair-wise cross validation experiments

Method AUC score AUPR score Training time (sec) Memory (MB)L1LOG-tensor 0.982± 0.000 0.643± 0.001 85, 211 24, 079

L1LOG-concat 0.965± 0.000 0.324± 0.000 9, 323 177

L2LOG-tensor 0.979± 0.000 0.621± 0.000 82, 853 24, 079

L2LOG-concat 0.963± 0.000 0.317± 0.000 9, 129 177

L1LOG-LIBLINEAR-tensor − − − > 131, 072

color

012345

hsa:8973 CHRN

A6hsa:88 CCKAR

6hsa:79 CALCR

9hsa:7433 VIPR1hsa:7253 TSH

Rhsa:7068 TH

RBhsa:6869 TACR1hsa:6865 TACR2hsa:62 BD

KRB24

hsa:5724 PTAFRhsa:57053 CH

RNA10

hsa:55584 CHRN

A9hsa:55 AVPR1A

2hsa:5029 P2RY2hsa:4988 O

PRM1

hsa:4987 OPRL1

hsa:4986 OPRK1

hsa:4985 OPRD

1hsa:4887 N

PY2Rhsa:4886 N

PY1Rhsa:4161 M

C5Rhsa:4159 M

C3Rhsa:3362 H

TR6hsa:3358 H

TR2Chsa:3357 H

TR2Bhsa:3356 H

TR2Ahsa:3274 H

RH2

hsa:3269 HRH

1hsa:2908 N

R3C1hsa:2740 G

LP1Rhsa:1910 ED

NRB

hsa:1909 EDN

RAhsa:18 AG

TR26

hsa:185 AGTR1

hsa:1816 DRD

5hsa:1815 D

RD4

hsa:1812 DRD

1hsa:15 AD

RB35

hsa:15 ADRB1

3hsa:15 AD

RA2C2

hsa:1511 CTSGhsa:15 AD

RA2B1

hsa:15 ADRA2A

0hsa:14 AD

RA1D6

hsa:14 ADO

RA30

hsa:13 ADO

RA2A5

hsa:13 ADO

RA14

hsa:1268 CNR1

hsa:1146 CHRN

Ghsa:1145 CH

RNE

hsa:1144 CHRN

Dhsa:1143 CH

RNB4

hsa:1140 CHRN

B1hsa:1139 CH

RNA7

hsa:1134 CHRN

A1hsa:1133 CH

RM5

hsa:1128 CHRM

1hsa:10800 CYSLTR1

D00481D00524D00721D00766D00999D02275

(a)(b)Propantheline brom

ide

Carbachol

Methanthelinium

bromide

Succinylcholine chloride

Acetylcholine chloride

Suxamethonium

chloride hydrate

color

012345

hsa:8973 CHRN

A6hsa:88 CCKAR

6hsa:79 CALCR

9hsa:7433 VIPR1hsa:7253 TSH

Rhsa:7068 TH

RBhsa:6869 TACR1hsa:6865 TACR2hsa:62 BD

KRB24

hsa:5724 PTAFRhsa:57053 CH

RNA10

hsa:55584 CHRN

A9hsa:55 AVPR1A

2hsa:5029 P2RY2hsa:4988 O

PRM1

hsa:4987 OPRL1

hsa:4986 OPRK1

hsa:4985 OPRD

1hsa:4887 N

PY2Rhsa:4886 N

PY1Rhsa:4161 M

C5Rhsa:4159 M

C3Rhsa:3362 H

TR6hsa:3358 H

TR2Chsa:3357 H

TR2Bhsa:3356 H

TR2Ahsa:3274 H

RH2

hsa:3269 HRH

1hsa:2908 N

R3C1hsa:2740 G

LP1Rhsa:1910 ED

NRB

hsa:1909 EDN

RAhsa:18 AG

TR26

hsa:185 AGTR1

hsa:1816 DRD

5hsa:1815 D

RD4

hsa:1812 DRD

1hsa:15 AD

RB35

hsa:15 ADRB1

3hsa:15 AD

RA2C2

hsa:1511 CTSGhsa:15 AD

RA2B1

hsa:15 ADRA2A

0hsa:14 AD

RA1D6

hsa:14 ADO

RA30

hsa:13 ADO

RA2A5

hsa:13 ADO

RA14

hsa:1268 CNR1

hsa:1146 CHRN

Ghsa:1145 CH

RNE

hsa:1144 CHRN

Dhsa:1143 CH

RNB4

hsa:1140 CHRN

B1hsa:1139 CH

RNA7

hsa:1134 CHRN

A1hsa:1133 CH

RM5

hsa:1128 CHRM

1hsa:10800 CYSLTR1

D00481D00524D00721D00766D00999D02275

(a)(b)Propantheline brom

ide

Carbachol

Methanthelinium

bromide

Succinylcholine chloride

Acetylcholine chloride

Suxamethonium

chloride hydrate

　drug-proteinsubstructuresadversedrugreactionproteinpathwaypathwaymoduleproteindomain