補間式
値の範囲を使用する述部の 場合、Db2® は補間式 を使用してフィルター係数を計算します。

式
以下の式は、大まかな見積もりで あり、Db2 によりさらに修正されます。これらは、col op. constant の形式の述部に 適用されます。各式の中の (Total Entries) の値は、カタログ表 SYSIBM.SYSCOLUMNS の列 col での HIGH2KEY および LOW2KEY 列の値から見積もられます。Total Entries (全体の項目数) = (HIGH2KEY value - LOW2KEY value)。
- 演算子が < および <= で、constant がホスト変数でない場合。
(constant value - LOW2KEY value) / (Total Entries)
- 演算子が > および >= で、constant がホスト変数でない場合。
(HIGH2KEY value - constant value) / (Total Entries)
- LIKE または BETWEEN の場合。
(High constant value - Low constant value) / (Total Entries)
例
述部の列 C2 で、HIGH2KEY の値 が 1400 で LOW2KEY の値が 200 であるとします。C2 の場合、Db2 は Total Entries = 1400 - 200、つまり 1200 です。
述部 C1 BETWEEN 800 AND 1100 で は、Db2 は以下のようにフィルター係数を計算します。
F = (1100 - 800)/1200 = 1/4 = 0.25
LIKE の補間
Db2 は LIKE 述部を BETWEEN 述部のタイプ として扱います。この述部により限定される範囲を結び付ける 2 つの値は、述部の constant ストリングから生成されます。 エスケープ文字 ('%' または '_') の前にある文字のみ、その境界を生成するため に使用されます。エスケープ文字がストリングの最初の文字である場合には、フィルター係数 は 1 と見積もられ、述部はどの行も拒否しないことになります。
補間のデフォルト
Db2 は、場合によっては補間を行わないこと があり、その場合、デフォルトのフィルター係数を使用できます。補間のデフォルト・フィルター係数は、以下のとおりです。
- LIKE および BETWEEN 述部を含む範囲にのみ関係します。
- 補間を行うことが適切でないときだけ使用されます。
- COLCARDF の値を基準にします。
- 以下の条件のいずれかに該当するときは、列に存在する統計が均等分散
であるか、追加分散であるかに関係なく、使用されます。
- 述部に定数が含まれていない。
- COLCARDF < 4 である。
次の表は、 演算子 <、<=、>、>= ならびに LIKE および BETWEEN の補間デフォルトを示します。
| COLCARDF | Op の係数1 | LIKE または BETWEEN の係数 |
|---|---|---|
| >=100000000 | 1/10,000 | 3/100000 |
| >=10000000 | 1/3,000 | 1/10000 |
| >=1000000 | 1/1,000 | 3/10000 |
| >=100000 | 1/300 | 1/1000 |
| >=10000 | 1/100 | 3/1000 |
| >=1000 | 1/30 | 1/100 |
| >=100 | 1/10 | 3/100 |
| >=2 | 1/3 | 1/10 |
| =1 | 1/1 | 1/1 |
| <=0 | 1/3 | 1/10 |
- Op は、 演算子 <、<=、>、>= のいずれかです。
