flatdb.c

   1 /*
   2  * Copyright (c) 2004 Teodor Sigaev <teodor@sigaev.ru>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *        notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *        notice, this list of conditions and the following disclaimer in the
  12  *        documentation and/or other materials provided with the distribution.
  13  * 3. Neither the name of the author nor the names of any co-contributors
  14  *        may be used to endorse or promote products derived from this software
  15  *        without specific prior written permission.
  16  *
  17  * THIS SOFTWARE IS PROVIDED BY CONTRIBUTORS ``AS IS'' AND ANY EXPRESS
  18  * OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
  19  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  20  * ARE DISCLAIMED. IN NO EVENT SHALL CONTRIBUTORS BE LIABLE FOR ANY
  21  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE
  23  * GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  24  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER
  25  * IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  26  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN
  27  * IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  28  */
  29 #include <stdio.h>
  30 #include <stdlib.h>
  31 #include <fcntl.h>
  32 #include <unistd.h>
  33 #include <string.h>
  34 #include <errno.h>
  35 #include <sys/types.h>
  36 #include <sys/stat.h>
  37 #include <sys/file.h>
  38
  39 #include "tlog.h"
  40 #include "tmalloc.h"
  41
  42 #include "flatdb.h"
  43
  44 static FDBFreeSpace*
  45 findFreeSpace(FDB *db, size_t length) {
  46         FDBFreeSpace *ptr = db->space;
  47
  48         while(ptr && ptr - db->space < db->listcur) {
  49                 if ( ptr->length >= length )
  50                         return ptr;
  51                 ptr++;
  52         }
  53
  54         return NULL;
  55 }
  56
  57 static void
  58 addFreeSpace(FDB *db, off_t offset, size_t length) {
  59         if ( db->listcur >= db->listlen ) {
  60                 db->listlen *= 2;
  61                 db->space = (FDBFreeSpace*) trealloc( db->space, db->listlen * sizeof(FDBFreeSpace) );
  62         }
  63
  64         db->space[ db->listcur ].offset=offset;
  65         db->space[ db->listcur ].length=length;
  66
  67         db->listcur++;
  68 }
  69
  70 static int
  71 cmpFS(const void* a, const void* b) {
  72         if ( ((FDBFreeSpace*)a)->offset == ((FDBFreeSpace*)b)->offset )
  73                 return 0;
  74         return ( ((FDBFreeSpace*)a)->offset > ((FDBFreeSpace*)b)->offset ) ? 1 : -1;
  75 }
  76
  77 void
  78 FDBVacuumFreeSpace(FDB *db) {
  79         FDBFreeSpace *ptr=db->space+1, *ok=db->space;
  80
  81         if ( db->listcur < 2 )
  82                 return;
  83
  84         qsort( db->space, db->listcur, sizeof(FDBFreeSpace), cmpFS);
  85
  86         /* merge spaces */
  87         while( ptr - db->space < db->listcur ) {
  88                 if ( ok->offset + ok->length == ptr->offset || ptr->length==0 ) {
  89                         ok->length += ptr->length;
  90                         ptr->length=0;
  91                 } else
  92                         ok++;
  93                 ptr++;
  94         }
  95
  96         /* remove void spaces */
  97         ptr = ok = db->space;
  98         while( ptr - db->space < db->listcur ) {
  99                 if ( ptr->length != 0 ) {
 100                         if ( ok != ptr )
 101                                 memcpy(ok,ptr,sizeof(FDBFreeSpace));
 102                         ok++;
 103                 }
 104                 ptr++;
 105         }
 106         db->listcur = ok - db->space;
 107 }
 108
 109 int
 110 FDBOpen(FDB *db, char *file, int readonly) {
 111         FDBHeader header;
 112         int rc;
 113
 114         memset(db, 0, sizeof(FDB));
 115
 116         if ( readonly ) {
 117                 db->readonly=1;
 118                 db->fd = open(file, O_RDONLY);
 119                 if ( db->fd < 0 ) {
 120                         tlog(TL_CRIT,"FDBOpen: open failed: %s",strerror(errno));
 121                         return FDB_ERROR;
 122                 }
 123                 if ( flock( db->fd, LOCK_SH ) < 0 ) {
 124                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
 125                         close(db->fd);
 126                         return FDB_ERROR;
 127                 }
 128         } else {
 129                 db->fd = open(file, O_CREAT | O_RDWR, 0666);
 130                 if ( db->fd < 0 ) {
 131                         tlog(TL_CRIT,"FDBOpen: open failed: %s",strerror(errno));
 132                         return FDB_ERROR;
 133                 }
 134                 if ( flock( db->fd, LOCK_EX ) < 0 ) {
 135                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
 136                         close(db->fd);
 137                         return FDB_ERROR;
 138                 }
 139         }
 140
 141         rc = read(db->fd, &header, sizeof(FDBHeader));
 142
 143         if ( rc<0 ) {
 144                 flock( db->fd, LOCK_UN );
 145                 close(db->fd);
 146                 tlog(TL_CRIT,"FDBOpen: read failed: %s", strerror(errno));
 147                 return FDB_ERROR;
 148         } else if ( rc==0 ) {
 149                 memset(&header, 0, sizeof(FDBHeader));
 150         } else if ( rc != sizeof(FDBHeader) ) {
 151                 flock( db->fd, LOCK_UN );
 152                 close(db->fd);
 153                 tlog(TL_CRIT,"FDBOpen: header fault: %d bytes only", rc);
 154                 return FDB_ERROR;
 155         } else if ( header.isopened ) {
 156                 flock( db->fd, LOCK_UN );
 157                 close(db->fd);
 158                 tlog(TL_CRIT,"FDBOpen: file wasn't closed correctly");
 159                 return FDB_ERROR;
 160         }
 161
 162
 163         if ( !db->readonly ) {
 164                 if ( header.freespace ) {
 165                         db->listlen = db->listcur = (header.lenfreespace / sizeof(FDBFreeSpace));
 166                         db->space = (FDBFreeSpace*)tmalloc( header.lenfreespace + sizeof(FDBFreeSpace) );
 167
 168                         if ( lseek(db->fd, header.freespace, SEEK_SET)!=header.freespace ||
 169                                         read( db->fd, db->space,  header.lenfreespace ) !=  header.lenfreespace ) {
 170                                 flock( db->fd, LOCK_UN );
 171                                 close(db->fd);
 172                                 tlog(TL_CRIT,"FDBOpen: free space read failed: %s", strerror(errno));
 173                                 return FDB_ERROR;
 174                         }
 175                         FDBVacuumFreeSpace(db);
 176                 } else {
 177                         db->listlen = 8;
 178                         db->space = (FDBFreeSpace*)tmalloc( db->listlen*sizeof(FDBFreeSpace) );
 179                 }
 180
 181                 header.freespace = 0;
 182                 header.lenfreespace = 0;
 183                 header.isopened = 1;
 184
 185                 if ( lseek(db->fd, 0, SEEK_SET)!=0 ||
 186                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) ||
 187                                 fsync(db->fd) ) {
 188                         flock( db->fd, LOCK_UN );
 189                         close(db->fd);
 190                         if ( db->space ) tfree( db->space );
 191                         tlog(TL_CRIT,"FDBOpen: can't modify header: %s", strerror(errno));
 192                         return FDB_ERROR;
 193                 }
 194         }
 195
 196         return FDB_OK;
 197 }
 198
 199
 200 int
 201 FDBClose(FDB *db) {
 202         if ( !db->readonly) {
 203                 FDBHeader header;
 204
 205                 memset(&header,0,sizeof(FDBHeader));
 206
 207                 if ( db->listcur ) {
 208                         FDBFreeSpace    *ptr;
 209
 210                         FDBVacuumFreeSpace(db);
 211
 212                         header.lenfreespace = sizeof(FDBFreeSpace)*db->listcur;
 213                         ptr = findFreeSpace( db, header.lenfreespace );
 214
 215                         if ( ptr ) {
 216                                 header.freespace = ptr->offset;
 217                                 if ( lseek(db->fd, ptr->offset, SEEK_SET) != ptr->offset )
 218                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
 219                         } else {
 220                                 if ( (header.freespace = lseek(db->fd, 0, SEEK_END)) < 0 )
 221                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
 222                                 header.lenfreespace += sizeof(FDBFreeSpace);
 223                                 addFreeSpace(db, header.freespace, header.lenfreespace);
 224                         }
 225
 226                         if ( write(db->fd, db->space, header.lenfreespace) != header.lenfreespace )
 227                                 tlog(TL_CRIT|TL_EXIT,"FDBClose: write failed: %s", strerror(errno));
 228                 }
 229
 230                 header.isopened=0;
 231
 232                 if ( lseek(db->fd,0,SEEK_SET)!=0 ||
 233                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) ||
 234                                 fsync(db->fd))
 235                         tlog(TL_CRIT|TL_EXIT,"FDBClose: header write  failed: %s", strerror(errno));
 236         }
 237
 238         flock( db->fd, LOCK_UN );
 239         close(db->fd);
 240
 241         if ( db->space )
 242                 tfree( db->space );
 243
 244         return FDB_OK;
 245 }
 246
 247 static int
 248 readLen(FDB *db, off_t offset, size_t *size) {
 249         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
 250                 return FDB_ERROR;
 251
 252         if ( read(db->fd,size,sizeof(size_t)) != sizeof(size_t) )
 253                 return FDB_ERROR;
 254
 255         return FDB_OK;
 256 }
 257
 258
 259 int
 260 FDBDelete(FDB *db, off_t offset, size_t length) {
 261         if ( db->readonly )
 262                 return FDB_ERROR;
 263
 264         if ( length==0 )
 265                 if ( readLen(db, offset, &length) != FDB_OK )
 266                         return FDB_ERROR;
 267
 268         addFreeSpace(db, offset, length);
 269
 270         return FDB_OK;
 271 }
 272
 273
 274 int
 275 FDBGet(FDB *db, off_t offset, size_t length, FDBRecord **record) {
 276         size_t rc;
 277
 278         *record=NULL;
 279
 280         if ( offset < sizeof(FDBHeader) )
 281                 return FDB_ERROR;
 282
 283         if ( length==0 )
 284                 if ( readLen(db, offset, &length) != FDB_OK )
 285                         return FDB_ERROR;
 286
 287         *record = (FDBRecord*)tmalloc( length );
 288
 289         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
 290                 return FDB_ERROR;
 291
 292         if ( (rc=read(db->fd,*record,length)) != length ) {
 293                 (*record)->length = rc;
 294                 tlog(TL_CRIT,"FDBGet: read (%d bytes) less than needed (%d bytes): %s", rc, length, strerror(errno));
 295                 return FDB_INCORRECT;
 296         }
 297
 298         if ( (*record)->length != length ) {
 299                 tlog(TL_ALARM, "FDBGet: wrong length in opts: %d bytes and %d bytes really", length, (*record)->length);
 300                 if ( (*record)->length > length ) {
 301                         rc = (*record)->length;
 302                         tfree( *record );
 303                         return FDBGet(db, offset, rc, record);
 304                 }
 305         }
 306
 307         return FDB_OK;
 308 }
 309
 310
 311 int
 312 FDBPut(FDB *db, FDBRecord *record, off_t *offset ) {
 313         FDBFreeSpace *ptr;
 314
 315         if ( db->readonly )
 316                 return FDB_ERROR;
 317
 318         ptr = findFreeSpace( db, record->length );
 319         if ( ptr ) {
 320                 *offset = ptr->offset;
 321                 ptr->length -= record->length;
 322                 if ( ptr->length == 0 ) {
 323                         if ( (ptr - db->space) + 1 != db->listcur )
 324                                 memmove(ptr, ptr+1, (db->listcur - (ptr - db->space) + 1) * sizeof(FDBFreeSpace));
 325                         db->listcur--;
 326                 } else
 327                         ptr->offset += record->length;
 328                 if ( lseek(db->fd, *offset, SEEK_SET) != *offset )
 329                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno));
 330         } else {
 331                 if ( (*offset = lseek(db->fd, 0, SEEK_END)) < 0 )
 332                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno));
 333         }
 334
 335         if ( write(db->fd, record, record->length) != record->length )
 336                 tlog(TL_CRIT|TL_EXIT,"FDBPut: write failed: %s", strerror(errno));
 337
 338         return FDB_OK;
 339
 340 }
 341
 342