small sisez
[tedtools.git] / flatdb.c
1 /*
2  * Copyright (c) 2004 Teodor Sigaev <teodor@sigaev.ru>
3  * All rights reserved.
4  *
5  * Redistribution and use in source and binary forms, with or without
6  * modification, are permitted provided that the following conditions
7  * are met:
8  * 1. Redistributions of source code must retain the above copyright
9  *        notice, this list of conditions and the following disclaimer.
10  * 2. Redistributions in binary form must reproduce the above copyright
11  *        notice, this list of conditions and the following disclaimer in the
12  *        documentation and/or other materials provided with the distribution.
13  * 3. Neither the name of the author nor the names of any co-contributors
14  *        may be used to endorse or promote products derived from this software
15  *        without specific prior written permission.
16  *
17  * THIS SOFTWARE IS PROVIDED BY CONTRIBUTORS ``AS IS'' AND ANY EXPRESS
18  * OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
19  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
20  * ARE DISCLAIMED. IN NO EVENT SHALL CONTRIBUTORS BE LIABLE FOR ANY
21  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE
23  * GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
24  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER
25  * IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
26  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN
27  * IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
28  */
29 #include <stdio.h>
30 #include <stdlib.h>
31 #include <fcntl.h>
32 #include <unistd.h>
33 #include <string.h>
34 #include <errno.h>
35 #include <sys/types.h>
36 #include <sys/stat.h>
37 #include <sys/file.h>
38
39 #include "tlog.h"
40 #include "tmalloc.h"
41
42 #include "flatdb.h"
43
44 static FDBFreeSpace*
45 findFreeSpace(FDB *db, size_t length) {
46         FDBFreeSpace *ptr = db->space;
47         
48         while(ptr && ptr - db->space < db->listcur) {
49                 if ( ptr->length >= length )
50                         return ptr; 
51                 ptr++;
52         }
53
54         return NULL; 
55 }
56
57 static void
58 addFreeSpace(FDB *db, off_t offset, size_t length) {
59         if ( db->listcur >= db->listlen ) {
60                 db->listlen *= 2;
61                 db->space = (FDBFreeSpace*) trealloc( db->space, db->listlen * sizeof(FDBFreeSpace) );
62         }
63
64         db->space[ db->listcur ].offset=offset;
65         db->space[ db->listcur ].length=length;
66
67         db->listcur++;
68 }
69
70 static int
71 cmpFS(const void* a, const void* b) {
72         if ( ((FDBFreeSpace*)a)->offset == ((FDBFreeSpace*)b)->offset )
73                 return 0;
74         return ( ((FDBFreeSpace*)a)->offset > ((FDBFreeSpace*)b)->offset ) ? 1 : -1;
75 }
76
77 void
78 FDBVacuumFreeSpace(FDB *db) {
79         FDBFreeSpace *ptr=db->space+1, *ok=db->space;
80
81         if ( db->listcur < 2 )
82                 return;
83
84         qsort( db->space, db->listcur, sizeof(FDBFreeSpace), cmpFS);
85
86         /* merge spaces */
87         while( ptr - db->space < db->listcur ) {
88                 if ( ok->offset + ok->length == ptr->offset || ptr->length==0 ) {
89                         ok->length += ptr->length;
90                         ptr->length=0;
91                 } else
92                         ok++;
93                 ptr++;
94         }
95
96         /* remove void spaces */
97         ptr = ok = db->space;
98         while( ptr - db->space < db->listcur ) {
99                 if ( ptr->length != 0 ) {
100                         if ( ok != ptr )
101                                 memcpy(ok,ptr,sizeof(FDBFreeSpace));
102                         ok++;
103                 }
104                 ptr++;
105         }
106         db->listcur = ok - db->space;   
107 }
108
109 int 
110 FDBOpen(FDB *db, char *file, int readonly) {
111         FDBHeader header;
112         int rc;
113
114         memset(db, 0, sizeof(FDB));
115
116         if ( readonly ) {
117                 db->readonly=1;
118                 db->fd = open(file, O_RDONLY);
119                 if ( db->fd < 0 ) {
120                         tlog(TL_CRIT,"FDBOpen: open failed: %s",strerror(errno));
121                         return FDB_ERROR;
122                 }
123                 if ( flock( db->fd, LOCK_SH ) < 0 ) {
124                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
125                         close(db->fd);
126                         return FDB_ERROR;
127                 } 
128         } else {
129                 db->fd = open(file, O_CREAT | O_RDWR, 0666);
130                 if ( db->fd < 0 ) {
131                         tlog(TL_CRIT,"FDBOpen: open failed: %s",strerror(errno));
132                         return FDB_ERROR;
133                 }
134                 if ( flock( db->fd, LOCK_EX ) < 0 ) {
135                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
136                         close(db->fd);
137                         return FDB_ERROR;
138                 } 
139         }
140
141         rc = read(db->fd, &header, sizeof(FDBHeader));
142
143         if ( rc<0 ) {
144                 flock( db->fd, LOCK_UN );
145                 close(db->fd);
146                 tlog(TL_CRIT,"FDBOpen: read failed: %s", strerror(errno));
147                 return FDB_ERROR;
148         } else if ( rc==0 ) {
149                 memset(&header, 0, sizeof(FDBHeader));
150         } else if ( rc != sizeof(FDBHeader) ) {
151                 flock( db->fd, LOCK_UN );
152                 close(db->fd);
153                 tlog(TL_CRIT,"FDBOpen: header fault: %d bytes only", rc);
154                 return FDB_ERROR;
155         } else if ( header.isopened ) {
156                 flock( db->fd, LOCK_UN );
157                 close(db->fd);
158                 tlog(TL_CRIT,"FDBOpen: file wasn't closed correctly");
159                 return FDB_ERROR;
160         }
161                 
162         
163         if ( !db->readonly ) {
164                 if ( header.freespace ) {
165                         db->listlen = db->listcur = (header.lenfreespace / sizeof(FDBFreeSpace));
166                         db->space = (FDBFreeSpace*)tmalloc( header.lenfreespace + sizeof(FDBFreeSpace) );
167                 
168                         if ( lseek(db->fd, header.freespace, SEEK_SET)!=header.freespace || 
169                                         read( db->fd, db->space,  header.lenfreespace ) !=  header.lenfreespace ) {
170                                 flock( db->fd, LOCK_UN );
171                                 close(db->fd);
172                                 tlog(TL_CRIT,"FDBOpen: free space read failed: %s", strerror(errno));
173                                 return FDB_ERROR;
174                         }
175                         FDBVacuumFreeSpace(db);
176                 } else {
177                         db->listlen = 8;
178                         db->space = (FDBFreeSpace*)tmalloc( db->listlen*sizeof(FDBFreeSpace) );
179                 }       
180
181                 header.freespace = 0;
182                 header.lenfreespace = 0;
183                 header.isopened = 1;
184
185                 if ( lseek(db->fd, 0, SEEK_SET)!=0 || 
186                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) || 
187                                 fsync(db->fd) ) {
188                         flock( db->fd, LOCK_UN );
189                         close(db->fd);
190                         if ( db->space ) tfree( db->space );
191                         tlog(TL_CRIT,"FDBOpen: can't modify header: %s", strerror(errno));
192                         return FDB_ERROR;
193                 }
194         }       
195
196         return FDB_OK;
197 }
198
199
200 int
201 FDBClose(FDB *db) {
202         if ( !db->readonly) {
203                 FDBHeader header;
204
205                 memset(&header,0,sizeof(FDBHeader));
206
207                 if ( db->listcur ) {
208                         FDBFreeSpace    *ptr;
209
210                         FDBVacuumFreeSpace(db);
211
212                         header.lenfreespace = sizeof(FDBFreeSpace)*db->listcur;
213                         ptr = findFreeSpace( db, header.lenfreespace );
214                 
215                         if ( ptr ) {
216                                 header.freespace = ptr->offset;
217                                 if ( lseek(db->fd, ptr->offset, SEEK_SET) != ptr->offset )
218                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
219                         } else {
220                                 if ( (header.freespace = lseek(db->fd, 0, SEEK_END)) < 0 ) 
221                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
222                                 header.lenfreespace += sizeof(FDBFreeSpace); 
223                                 addFreeSpace(db, header.freespace, header.lenfreespace); 
224                         }
225
226                         if ( write(db->fd, db->space, header.lenfreespace) != header.lenfreespace )
227                                 tlog(TL_CRIT|TL_EXIT,"FDBClose: write failed: %s", strerror(errno));
228                 }
229
230                 header.isopened=0;
231
232                 if ( lseek(db->fd,0,SEEK_SET)!=0 || 
233                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) || 
234                                 fsync(db->fd))
235                         tlog(TL_CRIT|TL_EXIT,"FDBClose: header write  failed: %s", strerror(errno)); 
236         }
237
238         flock( db->fd, LOCK_UN );
239         close(db->fd);
240
241         if ( db->space )
242                 tfree( db->space );
243
244         return FDB_OK;
245 }
246
247 static int
248 readLen(FDB *db, off_t offset, size_t *size) { 
249         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
250                 return FDB_ERROR;
251         
252         if ( read(db->fd,size,sizeof(size_t)) != sizeof(size_t) )
253                 return FDB_ERROR;
254
255         return FDB_OK;
256 }
257
258
259 int
260 FDBDelete(FDB *db, off_t offset, size_t length) {
261         if ( db->readonly )
262                 return FDB_ERROR;
263
264         if ( length==0 ) 
265                 if ( readLen(db, offset, &length) != FDB_OK )
266                         return FDB_ERROR;
267
268         addFreeSpace(db, offset, length);
269
270         return FDB_OK;
271 }
272
273
274 int
275 FDBGet(FDB *db, off_t offset, size_t length, FDBRecord **record) {
276         size_t rc;
277
278         *record=NULL;
279
280         if ( offset < sizeof(FDBHeader) )       
281                 return FDB_ERROR;
282
283         if ( length==0 )
284                 if ( readLen(db, offset, &length) != FDB_OK )
285                         return FDB_ERROR;
286
287         *record = (FDBRecord*)tmalloc( length );
288
289         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
290                 return FDB_ERROR;
291
292         if ( (rc=read(db->fd,*record,length)) != length ) {
293                 (*record)->length = rc;
294                 tlog(TL_CRIT,"FDBGet: read (%d bytes) less than needed (%d bytes): %s", rc, length, strerror(errno));
295                 return FDB_INCORRECT;
296         }
297
298         if ( (*record)->length != length ) {
299                 tlog(TL_ALARM, "FDBGet: wrong length in opts: %d bytes and %d bytes really", length, (*record)->length);
300                 if ( (*record)->length > length ) {
301                         rc = (*record)->length;
302                         tfree( *record );
303                         return FDBGet(db, offset, rc, record);
304                 }
305         } 
306
307         return FDB_OK;
308 }
309          
310                 
311 int 
312 FDBPut(FDB *db, FDBRecord *record, off_t *offset ) {
313         FDBFreeSpace *ptr;
314
315         if ( db->readonly )
316                 return FDB_ERROR;
317
318         ptr = findFreeSpace( db, record->length ); 
319         if ( ptr ) {
320                 *offset = ptr->offset;
321                 ptr->length -= record->length;
322                 if ( ptr->length == 0 ) {
323                         if ( (ptr - db->space) + 1 != db->listcur ) 
324                                 memmove(ptr, ptr+1, (db->listcur - (ptr - db->space) + 1) * sizeof(FDBFreeSpace));
325                         db->listcur--; 
326                 } else
327                         ptr->offset += record->length;
328                 if ( lseek(db->fd, *offset, SEEK_SET) != *offset ) 
329                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno)); 
330         } else {
331                 if ( (*offset = lseek(db->fd, 0, SEEK_END)) < 0 ) 
332                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno)); 
333         }
334
335         if ( write(db->fd, record, record->length) != record->length ) 
336                 tlog(TL_CRIT|TL_EXIT,"FDBPut: write failed: %s", strerror(errno));
337
338         return FDB_OK;
339
340 }
341
342