Note on xelm
[idzebra-moved-to-github.git] / CHANGELOG
1
2 --- 1.3.11 2003/04/25
3
4 xelm code updates. xelm works regardless state of 'xpath enable/disable'
5 Avoid -L/usr/lib since that is already default library path.
6
7 Allow multiple updates within one transaction.
8
9 Fixed a bug with >2GB files (overflow in integer expression).
10
11 --- 1.3.10 2003/04/01
12
13 Fix linker error for Perl module.
14
15 Fix bug in and operation which in some cases could result in "extra"
16 hits. Bug was introduced in 1.3.5.
17
18 Fix bug in handling of schema conversion when producing numeric tags.
19
20 --- 1.3.9 2003/03/27
21
22 Zvrank updates. 
23
24 Add missing files doc/zvrank.txt and doc/marc_indexing.xml.
25
26 --- 1.3.8 2003/03/26
27
28 Zvrank: an experimental ranking algorithm. See doc/zvrank.txt and
29 source in index/zvrank.c. Enable this by using rank: zvrank in zebra.cfg.
30 Contributed by Johannes Leveling <Johannes.Leveling at fernuni-hagen.de>
31
32 livrank: another experimental ranking algorithm. Source in livcode.c.
33 Enable this by using rank: livrank in zebra.cfg and use -DLIV_CODE=1
34 for CFLAGS.
35 Contributed by Pete Mallinson, University of Liverpool. 
36
37 Advanced MARC indexing. See doc/marc_indexing.xml
38  Oleg Kolobov <oleg at lib.tpu.ru>
39
40 Perl API updates and fixes. 
41  Peter Popovics <pop at technomat.hu>
42
43 Fixed 'zebraidx delete'.
44
45 Implemented 'zebraidx clean'.
46
47 64-bit offsets for register files on WIN32 (no 2 GB limit).
48
49 Fixed a few memory leaks WRT sorting.
50
51 --- 1.3.7 2003/02/27
52
53 Fixed error handling : error code was not properly returned.
54
55 Support Truncation 104 (CCL).
56
57 --- 1.3.6 2003/02/25
58
59 Added missing source files for perl extension.
60
61 --- 1.3.5 2003/02/23
62
63 Implemented xelm directive.
64
65 Updated for newer version of YAZ (introduction of string schema).
66
67 Directory examples/zthes now part of distribution (was missing
68 in previous release).
69
70 New .abs directive, systag, that control where to put retrieval
71 information. The directive takes two arguments: system tag, element name.
72 System tag is one of : rank, sysno, size.
73
74 --- 1.3.4 2002/11/26
75
76 Perl Filter and Perl API. By Peter Popovics.
77
78 For zebra.cfg, if no profilePath is specified, directory
79  (prefix)/share/idzebra/tab
80 is used.
81
82 Zebra Examples in examples . Zebra tests in test.
83
84 Bug fix: sort index was not properly modified on 
85 record updates/deletes.
86
87 Fix handling of character entities for sgml filter.
88
89 Move data1 to Zebra (used to be part of YAZ).
90
91 --- 1.3.3 2002/10/05
92
93 Fix character encoding of scan response terms.
94
95 Fix character decoding of scan request terms.
96
97 Fix ESpec handling (requires YAZ 1.9.1)
98
99 Fix searches for complete fields.
100
101 --- 1.3.2 2002/09/09
102
103 When name zebra is used in a filename or directory 'idzebra' is used
104 instead to avoid confusion with GNU zebra (routing software).
105
106 Zebra server stops with a fatal error if config file cannot be read.
107
108 New config setting, followLinks, that controls whether update of files
109 should follow symbolic. Set it to 1 (for enable) or 0 (to disable).
110 By default symbolic links are followed.
111
112 Fix MARC transfer . MARC fields had wrong data for multiple fields.
113
114 XML record reader moved from YAZ to Zebra, to make YAZ less 
115 dependant on external libraries.
116
117 Zebra uses yaz_iconv which is mini iconv library supporting UTF-8,
118 UCS4, ISO-8859-1. This means that Zebra does UNICODE even
119 on systems that doesn't offer iconv.
120
121 XML record reader supports external system entities.
122
123 --- 1.3.1 2002/08/20
124
125 New .abs-directive "xpath" that takes one argument: "enable"
126 or "disable" to enable and disable XPath -indexing. If no "xpath"
127 direcive is found in .abs-file , XPath-indexing is disabled to ensure
128 backwards compatibility. For missing .abs-files XPath-indexing is
129 enabled so that such records are searchable.
130
131 Zebra warns about missing .abs-file only once (for each type).
132
133 Fixed a bug in file update where already-inserted files could
134 be treated as "new".
135
136 --- 1.3.0 2002/08/05
137
138 Zebra license changed to GNU GPL.
139
140 XPath-like queries used when RPN string attributes are used, eg.
141    @attr 1=/portal/title sometitle
142    @attr 1=/portal/title[@xml:lang=da] danishtitle
143    @attr 1=/portal/title/@xml:lang da
144    @attr 1=//title sometitle
145
146 Zebra uses UTF-8 internally:
147 1) New setting "encoding" for zebra.cfg that specifies encoding for
148 OCTET terms in queries and record encoding for most transfer syntaxes
149 (except those that use International Strings, such as GRS-1).
150 2) The encoding of International strings is UTF-8 by default. It
151 may be changed by character set negotiation. If character set
152 negotiation is in effect and if records are selected for conversion
153 these'll be converted to the selected character set - thus overriding
154 the encoding setting in zebra.cfg.
155 3) New directive "encoding" in .abs-files. This specifies the external
156 character encoding for files indexed by zebra. However, if records
157 themselves have an XML header that specifies and encoding that'll be used
158 instead.
159
160 XML filter (-t grs.xml).
161
162 Multiple registers. New setting in resource 'root' that holds base
163 directory for register(s). A group a databases may be put in separate
164 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
165
166 --- 1.1.1 2002/03/21
167
168 Fixes for Digital Unix
169
170 Implemented hits per term using USR:SearchResult-1.
171
172 New Zebra API. Locking system re-implemented.
173
174 --- 1.1.stable 2002/02/20
175
176 Rank weight can be controlled with attribute type 9. Default
177 value is 34. Recommended values between 1-36.
178
179 --- 1.1 2001/10/25
180
181 Updated for YAZ version 1.8.
182
183 Added support for termsets - a result set of terms matching
184 a given query. For @attr 8=<set> creates termset named <set>.
185
186 Added support for raw retrieval. Element Set Name R forces the
187 text filter which returns the record in its original form.
188
189 Added numerical sort - triggered by structure=numeric (4=109).
190
191 Remote record import using Z39.50 Extended Services and Segments.
192
193 Fixed bug where updating a database with user-defined attributes
194 could corrupt the register (bad storeKeys).
195
196 Multi-threaded version.
197
198 Fixed bug regarding proximity.
199
200 Documentation updates.
201
202 Fixed bug in record retrieval module that occured on 64-bit OSF 
203 architectures.
204
205 --- 1.0.1 2000/2/10
206
207 Fixed bug in makefile for WIN32.
208
209 Fixed bug in configure script - used bash-specific features.
210
211 --- 1.0 1999/12/10
212
213 Added support for multiple records in one file for filter grs.sgml.
214
215 Changed record index structure. New layout is incompatible with
216 previous releases. Added setting "recordcompression" to control
217 compression of records. Possible values are "none" (no
218 compression) and bzip2 (compression using libbz2).
219
220 Added XML transfer syntax support for retrieval of structured records.
221 Schema in CompSpec is recognised in retrieval of structured records.
222
223 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
224 that fails, the filter reads the file <filt>.flt (regx style filter).
225
226 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
227 Zebra's configure script automatically attempts to locate Tcl. For
228 manual Tcl configuration use option --with-tclconfig=<path> to specify
229 where Tcl's library files are located.
230
231 Implemented "compression" of Dictionary and ISAM system. Dictionary
232 format HAS changed.
233
234 Added "tagsysno" directive to zebra.cfg to control under which tag the
235 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
236 entirely.
237
238 Added "tagrank" as above.
239
240 Changed file naming scheme for register files from <name>.mf.<no> to
241 <name>-<no>.mf.
242
243 Implemented "position"-flag for register type (as defined in
244 default.idx). When set to zero no position (or seqence number) is
245 saved in register for each word occurrence, thus saving some register
246 space.
247
248 Implemented database mapping. Using mapdb one can specify a database
249 to be mapped to one or more physical databases. Usage:
250 mapdb <fromdb> <todb> ..
251
252 Added SOIF-filter. Thanks to Peter Valkenburg.
253
254 For the regx-filter "end element -record" may trigger a mark-of-record
255 if outer level is reached.
256
257 Tag sets may be typed in the reference to it. From the .abs-file the
258 "tagset" directive takes a third optional integer type for the tag set
259 referenced. From a .tag-file the "include" directive takes a third
260 optional type as well. The old "type" directive in the tag set itself
261 is still recognized but acts as the default type for the tag set.
262  
263 Zebra supports the specification of arbitrary attributes sets, schemas
264 and tag sets, because of the change in YAZ' OID management system.
265
266 Fixed bug in Sort that caused it NOT to use character mapping as it
267 should.
268
269 Zebra now uses GNU configure to generate Makefile(s).
270
271 Added un-optimised support for left and left/right truncation attributes.
272
273 Added support for relational operators on text when using RPN queries.
274
275 Added support for sort specifications in RPN queries. Type 7 specifies
276 'sort' where value 1=ascending, value 2=descending. The use attribute
277 specifies the field criteria as usual.  The term specifies priority
278 where 0=first, 1=second, ...
279
280 Changed the way use attributes are specified in the recordId
281 specification.
282
283 Maximum number of databases in one Zebra register increased.
284
285 New setting, databasePath, which specifies that first directory during
286 update traversal is the database name (instead of a fixed one).
287
288 New setting, explainDatabase, which specifies that databases are
289 EXPLAIN aware.
290
291 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
292
293 Implemented EXPLAIN database maintenance. Zebra automatically
294 generate - and update CategoryList, TargetInfo, DatabaseInfo,
295 AttributeSetInfo and AttributeDetails records at this stage. The
296 records may be transferred as GRS-1, SUTRS or Explain.
297
298 Fixed register spec so that colon isn't treated as size separator
299 unless followed by [0-9+-] in order to allow DOS drive specifications.
300
301 Fixed two bugs in ISAMC system.
302
303 Changed the way Zebra keeps its maintenance information about attribute
304 sets, available attributes, etc.. Records in "SGML" notation using an
305 EXPLAIN schema is now used when appropriate.
306
307 Bug fix: Index didn't handle update/insert/delete of the same record
308 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
309 first occurence of a record is considered.
310
311 Most searches now return correct number of hits.
312
313 New modular ranking system. Interested programmers are encouraged to
314 inspect rank1.c and improve the algorithm.
315
316 Bug fix: Lock files weren't removed as they should on NT.
317
318 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
319 specify a "sort register". Refer to the gils sample records which refer
320 to index type "s" which is specified as "sort" in the default.idx file.
321 Each sort criteria can either be Ascending or Descending and at most
322 three sort elements can be specified.  
323
324 Bug fix: Character mapping didn't work for text files.
325
326 --- 1.0b1 1998/1/29
327
328 Simple ranked searches now return correct number of hits.
329
330 The test option (-s) only makes a read-lock on the index as well
331 as using read-only operations anywhere.
332
333 Moved towards generic character mapping. Configuration file default.idx
334 specifies character map files for register types w, p, u, etc.
335
336 Implemented "begin variant" for the sgml.regx - filter.
337
338 Fixed a few memory leaks.
339
340 Added support for C++, headers uses extern "C" for public definitions.
341
342 Bug fix: The show records facility (-s) only displayed information for
343 the first record in a file (and not for every record in the file).
344
345 Added option "-f <n>" to limit the logging of record operations. After
346 <n> records has been processed no logging is performed (unless errors
347 occur).
348
349 Bug fix: the compressed ISAM system didn't handle update operations
350 correctly.
351
352 Added setting, "maxResultSetSize", to hold the number of records to 
353 save in a result set.
354
355 Bug fix: Complete phrase did't work for search operations.
356
357 Bug fix: temporary result sets weren't deleted.
358
359 Reduced disk space for saved keys (storeKeys = 1).
360
361 Added optional, physical ANY (key replication)
362
363 Implemented proximity operator in search.
364
365 Bug fix: the path name buffers used by file match traversal routines
366 have been extended to support long file names.
367
368 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
369 configuration file. The resulting register without "storeKeys" is about
370 half the size, and the memory used by zebraidx during phase 2 (merge) is
371 reduced to a minimum.
372
373 Reworked the way Regexp-2 queries with error tolerance are handled and
374 specified. The documentation has been updated accordingly.
375
376 Bug fix: Zebrasrv didn't search correctly when queries contained masking
377 characters. This bug was introduced in 1.0a8.
378
379 Zebrasrv now tag records with the proper database name.
380
381 New settings, memMax and keyTmpDir.
382
383 Changed name of setting lockDir (previously called lockPath) and
384 setTmpDir (previously called tempSetPath).
385
386 Generalized and changed record type specifications. In short, there are:
387        text                plain SUTRS
388        grs.sgml            structured, "SGML-like" syntax
389        grs.regx.<filter>   structured, Regular expression filter
390        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
391                            is the name of an abstract syntax file.                           
392 Bug fix: Result sets weren't sorted in operations involving boolean
393 operations with "ranked" operands.
394
395 --- 1.0a8 1996/6/6
396
397 Added national character-handling subsystem.
398
399 Various fixes.
400
401 Small modifications to input filters and profiles.
402
403 Added support for SOIF syntax (with private OID).
404
405 --- 1.0a7 1996/5/16
406
407 Fixed buffer-size problem in indexing.
408
409 Added compression to temporary files for updating.
410
411 Added phrase registers.
412
413 Added dynamic mapping of search attribute to multiple termlists (ANY).
414
415 Scan support in multiple databases/registers.
416
417 Configuration settings are case-insensitive and single dash (-)
418 characters are ignored in comparisons.
419
420 The index processing ignores empty files - warning given.
421
422 New option to zebraidx (-V) displays version information.
423
424 --- 1.0a6 1996/2/24
425
426 Fixed problem in file-update system.
427
428 Fixed problem in shadow system; register was sometimes corrupted after
429 a commit operation.
430
431 --- 1.0a5 1996/2/10
432
433 Fixed problems in the ISAM subsystem. Caused difficulties when updating
434 existing registers.
435
436 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
437 the rank and record number.
438
439 Fixed bug in the isam subsystem - caused a malfunction when accessing
440 words which occurred more than 10000 times.
441
442 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
443 installation.
444
445 Server can now run under inetd. Use option -i, and -w <directory> to
446 set working directory to desired location.
447
448 New zebraidx command: clean - removes temporary shadow files.
449
450 Fixed bug in ISAM system. Occurred rarely during register updates.
451
452 Logging during index merge phase is improved. The remaining running
453 time is estimated.
454
455 Temporary files generated by zebraidx are removed after each run.
456
457 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
458 when doing scan operations in dictionaries with European characters.
459
460 --- 1.0a4 1996/01/11
461
462 A whole slew of updates, to make the first publicized release. Get the doc
463 and check it out.
464
465 --- 1.0a3 1995/12/06
466
467 Memory-problems in ISAM fixed. More blocktypes added to the default setup
468 to increase performance on larger databases.
469
470 Various minor changes in data management system.
471
472 --- 1.0a2 1995/12/05
473
474 A couple of portability-problems resolved.
475
476 Changed some malloc() to xmalloc().
477
478 --- 1.0a1 1995/11/28
479
480 First release.