Fix compiler warnings
[smlar.git] / expected / float4.out
1 set extra_float_digits =0;
2 SELECT set_smlar_limit(0.6);
3  set_smlar_limit 
4 -----------------
5              0.6
6 (1 row)
7
8 SELECT 
9         t,
10         ARRAY(
11                 SELECT 
12                         v::float4
13                 FROM
14                         generate_series(1, t) as v
15         ) AS v
16         INTO test_float4
17 FROM
18         generate_series(1, 200) as t;
19 SELECT  t, smlar(v, '{10,9,8,7,6,5,4,3,2,1}') AS s FROM test_float4 WHERE v % '{10,9,8,7,6,5,4,3,2,1}' ORDER BY s DESC, t;
20  t  |    s     
21 ----+----------
22  10 |        1
23  11 | 0.953463
24   9 | 0.948683
25  12 | 0.912871
26   8 | 0.894427
27  13 | 0.877058
28  14 | 0.845154
29   7 |  0.83666
30  15 | 0.816497
31  16 | 0.790569
32   6 | 0.774597
33  17 | 0.766965
34  18 | 0.745356
35  19 | 0.725476
36   5 | 0.707107
37  20 | 0.707107
38  21 | 0.690066
39  22 |   0.6742
40  23 |  0.65938
41  24 | 0.645497
42   4 | 0.632456
43  25 | 0.632456
44  26 | 0.620174
45  27 | 0.608581
46 (24 rows)
47
48 SELECT  t, smlar(v, '{50,49,8,7,6,5,4,33,2,1}') AS s FROM test_float4 WHERE v % '{50,49,8,7,6,5,4,33,2,1}' ORDER BY s DESC, t;
49  t  |    s     
50 ----+----------
51   8 | 0.782624
52   9 | 0.737865
53   7 | 0.717137
54  10 |      0.7
55  11 | 0.667424
56   6 | 0.645497
57  12 |  0.63901
58  13 | 0.613941
59 (8 rows)
60
61 CREATE INDEX idx_test_float4 ON test_float4 USING gist (v _float4_sml_ops);
62 SET enable_seqscan=off;
63 SELECT  t, smlar(v, '{10,9,8,7,6,5,4,3,2,1}') AS s FROM test_float4 WHERE v % '{10,9,8,7,6,5,4,3,2,1}' ORDER BY s DESC, t;
64  t  |    s     
65 ----+----------
66  10 |        1
67  11 | 0.953463
68   9 | 0.948683
69  12 | 0.912871
70   8 | 0.894427
71  13 | 0.877058
72  14 | 0.845154
73   7 |  0.83666
74  15 | 0.816497
75  16 | 0.790569
76   6 | 0.774597
77  17 | 0.766965
78  18 | 0.745356
79  19 | 0.725476
80   5 | 0.707107
81  20 | 0.707107
82  21 | 0.690066
83  22 |   0.6742
84  23 |  0.65938
85  24 | 0.645497
86   4 | 0.632456
87  25 | 0.632456
88  26 | 0.620174
89  27 | 0.608581
90 (24 rows)
91
92 SELECT  t, smlar(v, '{50,49,8,7,6,5,4,33,2,1}') AS s FROM test_float4 WHERE v % '{50,49,8,7,6,5,4,33,2,1}' ORDER BY s DESC, t;
93  t  |    s     
94 ----+----------
95   8 | 0.782624
96   9 | 0.737865
97   7 | 0.717137
98  10 |      0.7
99  11 | 0.667424
100   6 | 0.645497
101  12 |  0.63901
102  13 | 0.613941
103 (8 rows)
104
105 DROP INDEX idx_test_float4;
106 CREATE INDEX idx_test_float4 ON test_float4 USING gin (v _float4_sml_ops);
107 SELECT  t, smlar(v, '{10,9,8,7,6,5,4,3,2,1}') AS s FROM test_float4 WHERE v % '{10,9,8,7,6,5,4,3,2,1}' ORDER BY s DESC, t;
108  t  |    s     
109 ----+----------
110  10 |        1
111  11 | 0.953463
112   9 | 0.948683
113  12 | 0.912871
114   8 | 0.894427
115  13 | 0.877058
116  14 | 0.845154
117   7 |  0.83666
118  15 | 0.816497
119  16 | 0.790569
120   6 | 0.774597
121  17 | 0.766965
122  18 | 0.745356
123  19 | 0.725476
124   5 | 0.707107
125  20 | 0.707107
126  21 | 0.690066
127  22 |   0.6742
128  23 |  0.65938
129  24 | 0.645497
130   4 | 0.632456
131  25 | 0.632456
132  26 | 0.620174
133  27 | 0.608581
134 (24 rows)
135
136 SELECT  t, smlar(v, '{50,49,8,7,6,5,4,33,2,1}') AS s FROM test_float4 WHERE v % '{50,49,8,7,6,5,4,33,2,1}' ORDER BY s DESC, t;
137  t  |    s     
138 ----+----------
139   8 | 0.782624
140   9 | 0.737865
141   7 | 0.717137
142  10 |      0.7
143  11 | 0.667424
144   6 | 0.645497
145  12 |  0.63901
146  13 | 0.613941
147 (8 rows)
148
149 SET enable_seqscan=on;