NEWS

   1
   2 --- 1.3.17 2004/08/17
   3
   4 Add IDZebra.i to dist so that Perl extension builds again.
   5
   6 --- 1.3.16 2004/08/16
   7
   8 Added facility to make attibutes in grs.regx and grs.tcl filter using the
   9 data command with argument -attribute <name> . The content of data is
  10 the value of the attribute. This command should be used inside a
  11 begin element , end element section.
  12
  13 Update zebra.nsi to NSIS 2.
  14
  15 Added a new 'cut' directive to charmaps (.chr files) which specifies that
  16 only characters after the cutting char should be indexed.
  17
  18 Update Perl internals so that it matches the current Zebra API.
  19 The recordGroup structure is no longer available. A group of resources
  20 can still be referenced by setting groupName=>..  in various methods.
  21
  22 Maximum number of records to be sorted in a result set can be
  23 specified by setting "sortmax". Default is 1000.
  24
  25 Allow use of string use attributes for regular attribute sets. The
  26 name matches the name given in the attribute set file. All strings
  27 starting with / are considered X-Path as usual.
  28
  29 Fixed bug in grs.regx. filter . 'end element' could pop off top tag
  30 element for XML tree. It may only pop off if -record is given.
  31
  32 Added grs.danbib filter - for Danish Bibliographic Centre.
  33
  34 Rename CHANGELOG to NEWS.
  35
  36 For text filter, return only header if elementSetName=H . elementSetName=R
  37 returns contents only. Other elementSetName returns both header+content.
  38
  39 Added test for charmap and rusmarc.
  40
  41 Added feature charmaps (.chr) so that characters may be specified in
  42 \LXXXX HEX notation.
  43
  44 Fixed problem with encoding directive for charmap(.chr) files.
  45
  46 Allow Remote insert/delete/replace/update with record, recordIdNumber
  47 (sysno) and/or recordIdOpaque(user supplied record Id). If both
  48 IDs are omitted internal record ID match is assumed (recordId: - in
  49 zebra cfg).
  50
  51 --- 1.3.15 2004/01/15
  52
  53 Fix bug. X-Path attribute expressions with spaces in them now works.
  54
  55 Fix base address for MARC output.
  56
  57 --- 1.3.14 2003/11/29
  58
  59 Fix bug with shadow and result set handling.
  60
  61 Implement MARCXML to ISO2709 conversion.
  62
  63 --- 1.3.13 2003/09/26
  64
  65 Add missing examples for Windows install.
  66
  67 Fix bug in regx filter to make it "greedy" again. This bug appeared
  68 in version 1.3.12.
  69
  70 Fix a few tests.
  71
  72 --- 1.3.12 2003/09/08
  73
  74 Fix XML error handling. Stop XML parse immediately if XML parse error
  75 occur (i.e.  produce one error only).
  76
  77 Zebra ignores "unsupported use attribute" for individual databases
  78 when search multiple databases (unless all databases fail).
  79
  80 New filter grs.marcxml which works like grs.marc but produces MARCXML.
  81
  82 Added support for database deletion. It is possible to create/drop
  83 a database from zebraidx utility. Note: only for isam:b.
  84
  85 Write zebrasrv.pid to lockdir.
  86
  87 Bug fix: result sets were not recovered correctly. Had to
  88 add ODR handle for zebra_search_RPN in order to make it work.
  89
  90 Fixed a bug in regx filters that didn't do anchors (^) correctly.
  91
  92 Fixed a bug in searches with X-Path searches sometimes giving "extra"
  93 hits.
  94
  95 Zebra server checks for zebrasrv.pid and refuses to start if it is already
  96 locked by another (running) zebrasrv.
  97
  98 Fixed a bug with text being chunked in pieces for the grs.xml filter.
  99
 100 --- 1.3.11 2003/04/25
 101
 102 xelm code updates. xelm works regardless state of 'xpath enable/disable'
 103 Avoid -L/usr/lib since that is already default library path.
 104
 105 Allow multiple updates within one transaction.
 106
 107 Fixed a bug with >2GB files (overflow in integer expression).
 108
 109 --- 1.3.10 2003/04/01
 110
 111 Fix linker error for Perl module.
 112
 113 Fix bug in and operation which in some cases could result in "extra"
 114 hits. Bug was introduced in 1.3.5.
 115
 116 Fix bug in handling of schema conversion when producing numeric tags.
 117
 118 --- 1.3.9 2003/03/27
 119
 120 Zvrank updates.
 121
 122 Add missing files doc/zvrank.txt and doc/marc_indexing.xml.
 123
 124 --- 1.3.8 2003/03/26
 125
 126 Zvrank: an experimental ranking algorithm. See doc/zvrank.txt and
 127 source in index/zvrank.c. Enable this by using rank: zvrank in zebra.cfg.
 128 Contributed by Johannes Leveling <Johannes.Leveling at fernuni-hagen.de>
 129
 130 livrank: another experimental ranking algorithm. Source in livcode.c.
 131 Enable this by using rank: livrank in zebra.cfg and use -DLIV_CODE=1
 132 for CFLAGS.
 133 Contributed by Pete Mallinson, University of Liverpool.
 134
 135 Advanced MARC indexing. See doc/marc_indexing.xml
 136  Oleg Kolobov <oleg at lib.tpu.ru>
 137
 138 Perl API updates and fixes.
 139  Peter Popovics <pop at technomat.hu>
 140
 141 Fixed 'zebraidx delete'.
 142
 143 Implemented 'zebraidx clean'.
 144
 145 64-bit offsets for register files on WIN32 (no 2 GB limit).
 146
 147 Fixed a few memory leaks WRT sorting.
 148
 149 --- 1.3.7 2003/02/27
 150
 151 Fixed error handling : error code was not properly returned.
 152
 153 Support Truncation 104 (CCL).
 154
 155 --- 1.3.6 2003/02/25
 156
 157 Added missing source files for perl extension.
 158
 159 --- 1.3.5 2003/02/23
 160
 161 Implemented xelm directive.
 162
 163 Updated for newer version of YAZ (introduction of string schema).
 164
 165 Directory examples/zthes now part of distribution (was missing
 166 in previous release).
 167
 168 New .abs directive, systag, that control where to put retrieval
 169 information. The directive takes two arguments: system tag, element name.
 170 System tag is one of : rank, sysno, size.
 171
 172 --- 1.3.4 2002/11/26
 173
 174 Perl Filter and Perl API. By Peter Popovics.
 175
 176 For zebra.cfg, if no profilePath is specified, directory
 177  (prefix)/share/idzebra/tab
 178 is used.
 179
 180 Zebra Examples in examples . Zebra tests in test.
 181
 182 Bug fix: sort index was not properly modified on
 183 record updates/deletes.
 184
 185 Fix handling of character entities for sgml filter.
 186
 187 Move data1 to Zebra (used to be part of YAZ).
 188
 189 --- 1.3.3 2002/10/05
 190
 191 Fix character encoding of scan response terms.
 192
 193 Fix character decoding of scan request terms.
 194
 195 Fix ESpec handling (requires YAZ 1.9.1)
 196
 197 Fix searches for complete fields.
 198
 199 --- 1.3.2 2002/09/09
 200
 201 When name zebra is used in a filename or directory 'idzebra' is used
 202 instead to avoid confusion with GNU zebra (routing software).
 203
 204 Zebra server stops with a fatal error if config file cannot be read.
 205
 206 New config setting, followLinks, that controls whether update of files
 207 should follow symbolic. Set it to 1 (for enable) or 0 (to disable).
 208 By default symbolic links are followed.
 209
 210 Fix MARC transfer . MARC fields had wrong data for multiple fields.
 211
 212 XML record reader moved from YAZ to Zebra, to make YAZ less
 213 dependant on external libraries.
 214
 215 Zebra uses yaz_iconv which is mini iconv library supporting UTF-8,
 216 UCS4, ISO-8859-1. This means that Zebra does UNICODE even
 217 on systems that doesn't offer iconv.
 218
 219 XML record reader supports external system entities.
 220
 221 --- 1.3.1 2002/08/20
 222
 223 New .abs-directive "xpath" that takes one argument: "enable"
 224 or "disable" to enable and disable XPath -indexing. If no "xpath"
 225 direcive is found in .abs-file , XPath-indexing is disabled to ensure
 226 backwards compatibility. For missing .abs-files XPath-indexing is
 227 enabled so that such records are searchable.
 228
 229 Zebra warns about missing .abs-file only once (for each type).
 230
 231 Fixed a bug in file update where already-inserted files could
 232 be treated as "new".
 233
 234 --- 1.3.0 2002/08/05
 235
 236 Zebra license changed to GNU GPL.
 237
 238 XPath-like queries used when RPN string attributes are used, eg.
 239    @attr 1=/portal/title sometitle
 240    @attr 1=/portal/title[@xml:lang=da] danishtitle
 241    @attr 1=/portal/title/@xml:lang da
 242    @attr 1=//title sometitle
 243
 244 Zebra uses UTF-8 internally:
 245 1) New setting "encoding" for zebra.cfg that specifies encoding for
 246 OCTET terms in queries and record encoding for most transfer syntaxes
 247 (except those that use International Strings, such as GRS-1).
 248 2) The encoding of International strings is UTF-8 by default. It
 249 may be changed by character set negotiation. If character set
 250 negotiation is in effect and if records are selected for conversion
 251 these'll be converted to the selected character set - thus overriding
 252 the encoding setting in zebra.cfg.
 253 3) New directive "encoding" in .abs-files. This specifies the external
 254 character encoding for files indexed by zebra. However, if records
 255 themselves have an XML header that specifies and encoding that'll be used
 256 instead.
 257
 258 XML filter (-t grs.xml).
 259
 260 Multiple registers. New setting in resource 'root' that holds base
 261 directory for register(s). A group a databases may be put in separate
 262 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
 263
 264 --- 1.1.1 2002/03/21
 265
 266 Fixes for Digital Unix
 267
 268 Implemented hits per term using USR:SearchResult-1.
 269
 270 New Zebra API. Locking system re-implemented.
 271
 272 --- 1.1.stable 2002/02/20
 273
 274 Rank weight can be controlled with attribute type 9. Default
 275 value is 34. Recommended values between 1-36.
 276
 277 --- 1.1 2001/10/25
 278
 279 Updated for YAZ version 1.8.
 280
 281 Added support for termsets - a result set of terms matching
 282 a given query. For @attr 8=<set> creates termset named <set>.
 283
 284 Added support for raw retrieval. Element Set Name R forces the
 285 text filter which returns the record in its original form.
 286
 287 Added numerical sort - triggered by structure=numeric (4=109).
 288
 289 Remote record import using Z39.50 Extended Services and Segments.
 290
 291 Fixed bug where updating a database with user-defined attributes
 292 could corrupt the register (bad storeKeys).
 293
 294 Multi-threaded version.
 295
 296 Fixed bug regarding proximity.
 297
 298 Documentation updates.
 299
 300 Fixed bug in record retrieval module that occured on 64-bit OSF
 301 architectures.
 302
 303 --- 1.0.1 2000/2/10
 304
 305 Fixed bug in makefile for WIN32.
 306
 307 Fixed bug in configure script - used bash-specific features.
 308
 309 --- 1.0 1999/12/10
 310
 311 Added support for multiple records in one file for filter grs.sgml.
 312
 313 Changed record index structure. New layout is incompatible with
 314 previous releases. Added setting "recordcompression" to control
 315 compression of records. Possible values are "none" (no
 316 compression) and bzip2 (compression using libbz2).
 317
 318 Added XML transfer syntax support for retrieval of structured records.
 319 Schema in CompSpec is recognised in retrieval of structured records.
 320
 321 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
 322 that fails, the filter reads the file <filt>.flt (regx style filter).
 323
 324 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
 325 Zebra's configure script automatically attempts to locate Tcl. For
 326 manual Tcl configuration use option --with-tclconfig=<path> to specify
 327 where Tcl's library files are located.
 328
 329 Implemented "compression" of Dictionary and ISAM system. Dictionary
 330 format HAS changed.
 331
 332 Added "tagsysno" directive to zebra.cfg to control under which tag the
 333 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
 334 entirely.
 335
 336 Added "tagrank" as above.
 337
 338 Changed file naming scheme for register files from <name>.mf.<no> to
 339 <name>-<no>.mf.
 340
 341 Implemented "position"-flag for register type (as defined in
 342 default.idx). When set to zero no position (or seqence number) is
 343 saved in register for each word occurrence, thus saving some register
 344 space.
 345
 346 Implemented database mapping. Using mapdb one can specify a database
 347 to be mapped to one or more physical databases. Usage:
 348 mapdb <fromdb> <todb> ..
 349
 350 Added SOIF-filter. Thanks to Peter Valkenburg.
 351
 352 For the regx-filter "end element -record" may trigger a mark-of-record
 353 if outer level is reached.
 354
 355 Tag sets may be typed in the reference to it. From the .abs-file the
 356 "tagset" directive takes a third optional integer type for the tag set
 357 referenced. From a .tag-file the "include" directive takes a third
 358 optional type as well. The old "type" directive in the tag set itself
 359 is still recognized but acts as the default type for the tag set.
 360
 361 Zebra supports the specification of arbitrary attributes sets, schemas
 362 and tag sets, because of the change in YAZ' OID management system.
 363
 364 Fixed bug in Sort that caused it NOT to use character mapping as it
 365 should.
 366
 367 Zebra now uses GNU configure to generate Makefile(s).
 368
 369 Added un-optimised support for left and left/right truncation attributes.
 370
 371 Added support for relational operators on text when using RPN queries.
 372
 373 Added support for sort specifications in RPN queries. Type 7 specifies
 374 'sort' where value 1=ascending, value 2=descending. The use attribute
 375 specifies the field criteria as usual.  The term specifies priority
 376 where 0=first, 1=second, ...
 377
 378 Changed the way use attributes are specified in the recordId
 379 specification.
 380
 381 Maximum number of databases in one Zebra register increased.
 382
 383 New setting, databasePath, which specifies that first directory during
 384 update traversal is the database name (instead of a fixed one).
 385
 386 New setting, explainDatabase, which specifies that databases are
 387 EXPLAIN aware.
 388
 389 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
 390
 391 Implemented EXPLAIN database maintenance. Zebra automatically
 392 generate - and update CategoryList, TargetInfo, DatabaseInfo,
 393 AttributeSetInfo and AttributeDetails records at this stage. The
 394 records may be transferred as GRS-1, SUTRS or Explain.
 395
 396 Fixed register spec so that colon isn't treated as size separator
 397 unless followed by [0-9+-] in order to allow DOS drive specifications.
 398
 399 Fixed two bugs in ISAMC system.
 400
 401 Changed the way Zebra keeps its maintenance information about attribute
 402 sets, available attributes, etc.. Records in "SGML" notation using an
 403 EXPLAIN schema is now used when appropriate.
 404
 405 Bug fix: Index didn't handle update/insert/delete of the same record
 406 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
 407 first occurence of a record is considered.
 408
 409 Most searches now return correct number of hits.
 410
 411 New modular ranking system. Interested programmers are encouraged to
 412 inspect rank1.c and improve the algorithm.
 413
 414 Bug fix: Lock files weren't removed as they should on NT.
 415
 416 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
 417 specify a "sort register". Refer to the gils sample records which refer
 418 to index type "s" which is specified as "sort" in the default.idx file.
 419 Each sort criteria can either be Ascending or Descending and at most
 420 three sort elements can be specified.
 421
 422 Bug fix: Character mapping didn't work for text files.
 423
 424 --- 1.0b1 1998/1/29
 425
 426 Simple ranked searches now return correct number of hits.
 427
 428 The test option (-s) only makes a read-lock on the index as well
 429 as using read-only operations anywhere.
 430
 431 Moved towards generic character mapping. Configuration file default.idx
 432 specifies character map files for register types w, p, u, etc.
 433
 434 Implemented "begin variant" for the sgml.regx - filter.
 435
 436 Fixed a few memory leaks.
 437
 438 Added support for C++, headers uses extern "C" for public definitions.
 439
 440 Bug fix: The show records facility (-s) only displayed information for
 441 the first record in a file (and not for every record in the file).
 442
 443 Added option "-f <n>" to limit the logging of record operations. After
 444 <n> records has been processed no logging is performed (unless errors
 445 occur).
 446
 447 Bug fix: the compressed ISAM system didn't handle update operations
 448 correctly.
 449
 450 Added setting, "maxResultSetSize", to hold the number of records to
 451 save in a result set.
 452
 453 Bug fix: Complete phrase did't work for search operations.
 454
 455 Bug fix: temporary result sets weren't deleted.
 456
 457 Reduced disk space for saved keys (storeKeys = 1).
 458
 459 Added optional, physical ANY (key replication)
 460
 461 Implemented proximity operator in search.
 462
 463 Bug fix: the path name buffers used by file match traversal routines
 464 have been extended to support long file names.
 465
 466 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
 467 configuration file. The resulting register without "storeKeys" is about
 468 half the size, and the memory used by zebraidx during phase 2 (merge) is
 469 reduced to a minimum.
 470
 471 Reworked the way Regexp-2 queries with error tolerance are handled and
 472 specified. The documentation has been updated accordingly.
 473
 474 Bug fix: Zebrasrv didn't search correctly when queries contained masking
 475 characters. This bug was introduced in 1.0a8.
 476
 477 Zebrasrv now tag records with the proper database name.
 478
 479 New settings, memMax and keyTmpDir.
 480
 481 Changed name of setting lockDir (previously called lockPath) and
 482 setTmpDir (previously called tempSetPath).
 483
 484 Generalized and changed record type specifications. In short, there are:
 485        text                plain SUTRS
 486        grs.sgml            structured, "SGML-like" syntax
 487        grs.regx.<filter>   structured, Regular expression filter
 488        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
 489                            is the name of an abstract syntax file.
 490 Bug fix: Result sets weren't sorted in operations involving boolean
 491 operations with "ranked" operands.
 492
 493 --- 1.0a8 1996/6/6
 494
 495 Added national character-handling subsystem.
 496
 497 Various fixes.
 498
 499 Small modifications to input filters and profiles.
 500
 501 Added support for SOIF syntax (with private OID).
 502
 503 --- 1.0a7 1996/5/16
 504
 505 Fixed buffer-size problem in indexing.
 506
 507 Added compression to temporary files for updating.
 508
 509 Added phrase registers.
 510
 511 Added dynamic mapping of search attribute to multiple termlists (ANY).
 512
 513 Scan support in multiple databases/registers.
 514
 515 Configuration settings are case-insensitive and single dash (-)
 516 characters are ignored in comparisons.
 517
 518 The index processing ignores empty files - warning given.
 519
 520 New option to zebraidx (-V) displays version information.
 521
 522 --- 1.0a6 1996/2/24
 523
 524 Fixed problem in file-update system.
 525
 526 Fixed problem in shadow system; register was sometimes corrupted after
 527 a commit operation.
 528
 529 --- 1.0a5 1996/2/10
 530
 531 Fixed problems in the ISAM subsystem. Caused difficulties when updating
 532 existing registers.
 533
 534 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
 535 the rank and record number.
 536
 537 Fixed bug in the isam subsystem - caused a malfunction when accessing
 538 words which occurred more than 10000 times.
 539
 540 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
 541 installation.
 542
 543 Server can now run under inetd. Use option -i, and -w <directory> to
 544 set working directory to desired location.
 545
 546 New zebraidx command: clean - removes temporary shadow files.
 547
 548 Fixed bug in ISAM system. Occurred rarely during register updates.
 549
 550 Logging during index merge phase is improved. The remaining running
 551 time is estimated.
 552
 553 Temporary files generated by zebraidx are removed after each run.
 554
 555 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
 556 when doing scan operations in dictionaries with European characters.
 557
 558 --- 1.0a4 1996/01/11
 559
 560 A whole slew of updates, to make the first publicized release. Get the doc
 561 and check it out.
 562
 563 --- 1.0a3 1995/12/06
 564
 565 Memory-problems in ISAM fixed. More blocktypes added to the default setup
 566 to increase performance on larger databases.
 567
 568 Various minor changes in data management system.
 569
 570 --- 1.0a2 1995/12/05
 571
 572 A couple of portability-problems resolved.
 573
 574 Changed some malloc() to xmalloc().
 575
 576 --- 1.0a1 1995/11/28
 577
 578 First release.