Bug fix: missing close (and leaking file handle)
[idzebra-moved-to-github.git] / CHANGELOG
1
2 64-bit offsets for register files on WIN32.
3
4 Fixed a few memory leaks wrt sorting.
5
6 --- 1.3.7 2003/02/27
7
8 Fixed error handling : error code was not properly returned.
9
10 Support Truncation 104 (CCL).
11
12 --- 1.3.6 2003/02/25
13
14 Added missing source files for perl extension.
15
16 --- 1.3.5 2003/02/23
17
18 Implemented xelm directive.
19
20 Updated for newer version of YAZ (introduction of string schema).
21
22 Directory examples/zthes now part of distribution (was missing
23 in previous release).
24
25 New .abs directive, systag, that control where to put retrieval
26 information. The directive takes two arguments: system tag, element name.
27 System tag is one of : rank, sysno, size.
28
29 --- 1.3.4 2002/11/26
30
31 Perl Filter and Perl API. By Peter Popovics.
32
33 For zebra.cfg, if no profilePath is specified, directory
34  (prefix)/share/idzebra/tab
35 is used.
36
37 Zebra Examples in examples . Zebra tests in test.
38
39 Bug fix: sort index was not properly modified on 
40 record updates/deletes.
41
42 Fix handling of character entities for sgml filter.
43
44 Move data1 to Zebra (used to be part of YAZ).
45
46 --- 1.3.3 2002/10/05
47
48 Fix character encoding of scan response terms.
49
50 Fix character decoding of scan request terms.
51
52 Fix ESpec handling (requires YAZ 1.9.1)
53
54 Fix searches for complete fields.
55
56 --- 1.3.2 2002/09/09
57
58 When name zebra is used in a filename or directory 'idzebra' is used
59 instead to avoid confusion with GNU zebra (routing software).
60
61 Zebra server stops with a fatal error if config file cannot be read.
62
63 New config setting, followLinks, that controls whether update of files
64 should follow symbolic. Set it to 1 (for enable) or 0 (to disable).
65 By default symbolic links are followed.
66
67 Fix MARC transfer . MARC fields had wrong data for multiple fields.
68
69 XML record reader moved from YAZ to Zebra, to make YAZ less 
70 dependant on external libraries.
71
72 Zebra uses yaz_iconv which is mini iconv library supporting UTF-8,
73 UCS4, ISO-8859-1. This means that Zebra does UNICODE even
74 on systems that doesn't offer iconv.
75
76 XML record reader supports external system entities.
77
78 --- 1.3.1 2002/08/20
79
80 New .abs-directive "xpath" that takes one argument: "enable"
81 or "disable" to enable and disable XPath -indexing. If no "xpath"
82 direcive is found in .abs-file , XPath-indexing is disabled to ensure
83 backwards compatibility. For missing .abs-files XPath-indexing is
84 enabled so that such records are searchable.
85
86 Zebra warns about missing .abs-file only once (for each type).
87
88 Fixed a bug in file update where already-inserted files could
89 be treated as "new".
90
91 --- 1.3.0 2002/08/05
92
93 Zebra license changed to GNU GPL.
94
95 XPath-like queries used when RPN string attributes are used, eg.
96    @attr 1=/portal/title sometitle
97    @attr 1=/portal/title[@xml:lang=da] danishtitle
98    @attr 1=/portal/title/@xml:lang da
99    @attr 1=//title sometitle
100
101 Zebra uses UTF-8 internally:
102 1) New setting "encoding" for zebra.cfg that specifies encoding for
103 OCTET terms in queries and record encoding for most transfer syntaxes
104 (except those that use International Strings, such as GRS-1).
105 2) The encoding of International strings is UTF-8 by default. It
106 may be changed by character set negotiation. If character set
107 negotiation is in effect and if records are selected for conversion
108 these'll be converted to the selected character set - thus overriding
109 the encoding setting in zebra.cfg.
110 3) New directive "encoding" in .abs-files. This specifies the external
111 character encoding for files indexed by zebra. However, if records
112 themselves have an XML header that specifies and encoding that'll be used
113 instead.
114
115 XML filter (-t grs.xml).
116
117 Multiple registers. New setting in resource 'root' that holds base
118 directory for register(s). A group a databases may be put in separate
119 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
120
121 --- 1.1.1 2002/03/21
122
123 Fixes for Digital Unix
124
125 Implemented hits per term using USR:SearchResult-1.
126
127 New Zebra API. Locking system re-implemented.
128
129 --- 1.1.stable 2002/02/20
130
131 Rank weight can be controlled with attribute type 9. Default
132 value is 34. Recommended values between 1-36.
133
134 --- 1.1 2001/10/25
135
136 Updated for YAZ version 1.8.
137
138 Added support for termsets - a result set of terms matching
139 a given query. For @attr 8=<set> creates termset named <set>.
140
141 Added support for raw retrieval. Element Set Name R forces the
142 text filter which returns the record in its original form.
143
144 Added numerical sort - triggered by structure=numeric (4=109).
145
146 Remote record import using Z39.50 Extended Services and Segments.
147
148 Fixed bug where updating a database with user-defined attributes
149 could corrupt the register (bad storeKeys).
150
151 Multi-threaded version.
152
153 Fixed bug regarding proximity.
154
155 Documentation updates.
156
157 Fixed bug in record retrieval module that occured on 64-bit OSF 
158 architectures.
159
160 --- 1.0.1 2000/2/10
161
162 Fixed bug in makefile for WIN32.
163
164 Fixed bug in configure script - used bash-specific features.
165
166 --- 1.0 1999/12/10
167
168 Added support for multiple records in one file for filter grs.sgml.
169
170 Changed record index structure. New layout is incompatible with
171 previous releases. Added setting "recordcompression" to control
172 compression of records. Possible values are "none" (no
173 compression) and bzip2 (compression using libbz2).
174
175 Added XML transfer syntax support for retrieval of structured records.
176 Schema in CompSpec is recognised in retrieval of structured records.
177
178 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
179 that fails, the filter reads the file <filt>.flt (regx style filter).
180
181 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
182 Zebra's configure script automatically attempts to locate Tcl. For
183 manual Tcl configuration use option --with-tclconfig=<path> to specify
184 where Tcl's library files are located.
185
186 Implemented "compression" of Dictionary and ISAM system. Dictionary
187 format HAS changed.
188
189 Added "tagsysno" directive to zebra.cfg to control under which tag the
190 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
191 entirely.
192
193 Added "tagrank" as above.
194
195 Changed file naming scheme for register files from <name>.mf.<no> to
196 <name>-<no>.mf.
197
198 Implemented "position"-flag for register type (as defined in
199 default.idx). When set to zero no position (or seqence number) is
200 saved in register for each word occurrence, thus saving some register
201 space.
202
203 Implemented database mapping. Using mapdb one can specify a database
204 to be mapped to one or more physical databases. Usage:
205 mapdb <fromdb> <todb> ..
206
207 Added SOIF-filter. Thanks to Peter Valkenburg.
208
209 For the regx-filter "end element -record" may trigger a mark-of-record
210 if outer level is reached.
211
212 Tag sets may be typed in the reference to it. From the .abs-file the
213 "tagset" directive takes a third optional integer type for the tag set
214 referenced. From a .tag-file the "include" directive takes a third
215 optional type as well. The old "type" directive in the tag set itself
216 is still recognized but acts as the default type for the tag set.
217  
218 Zebra supports the specification of arbitrary attributes sets, schemas
219 and tag sets, because of the change in YAZ' OID management system.
220
221 Fixed bug in Sort that caused it NOT to use character mapping as it
222 should.
223
224 Zebra now uses GNU configure to generate Makefile(s).
225
226 Added un-optimised support for left and left/right truncation attributes.
227
228 Added support for relational operators on text when using RPN queries.
229
230 Added support for sort specifications in RPN queries. Type 7 specifies
231 'sort' where value 1=ascending, value 2=descending. The use attribute
232 specifies the field criteria as usual.  The term specifies priority
233 where 0=first, 1=second, ...
234
235 Changed the way use attributes are specified in the recordId
236 specification.
237
238 Maximum number of databases in one Zebra register increased.
239
240 New setting, databasePath, which specifies that first directory during
241 update traversal is the database name (instead of a fixed one).
242
243 New setting, explainDatabase, which specifies that databases are
244 EXPLAIN aware.
245
246 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
247
248 Implemented EXPLAIN database maintenance. Zebra automatically
249 generate - and update CategoryList, TargetInfo, DatabaseInfo,
250 AttributeSetInfo and AttributeDetails records at this stage. The
251 records may be transferred as GRS-1, SUTRS or Explain.
252
253 Fixed register spec so that colon isn't treated as size separator
254 unless followed by [0-9+-] in order to allow DOS drive specifications.
255
256 Fixed two bugs in ISAMC system.
257
258 Changed the way Zebra keeps its maintenance information about attribute
259 sets, available attributes, etc.. Records in "SGML" notation using an
260 EXPLAIN schema is now used when appropriate.
261
262 Bug fix: Index didn't handle update/insert/delete of the same record
263 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
264 first occurence of a record is considered.
265
266 Most searches now return correct number of hits.
267
268 New modular ranking system. Interested programmers are encouraged to
269 inspect rank1.c and improve the algorithm.
270
271 Bug fix: Lock files weren't removed as they should on NT.
272
273 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
274 specify a "sort register". Refer to the gils sample records which refer
275 to index type "s" which is specified as "sort" in the default.idx file.
276 Each sort criteria can either be Ascending or Descending and at most
277 three sort elements can be specified.  
278
279 Bug fix: Character mapping didn't work for text files.
280
281 --- 1.0b1 1998/1/29
282
283 Simple ranked searches now return correct number of hits.
284
285 The test option (-s) only makes a read-lock on the index as well
286 as using read-only operations anywhere.
287
288 Moved towards generic character mapping. Configuration file default.idx
289 specifies character map files for register types w, p, u, etc.
290
291 Implemented "begin variant" for the sgml.regx - filter.
292
293 Fixed a few memory leaks.
294
295 Added support for C++, headers uses extern "C" for public definitions.
296
297 Bug fix: The show records facility (-s) only displayed information for
298 the first record in a file (and not for every record in the file).
299
300 Added option "-f <n>" to limit the logging of record operations. After
301 <n> records has been processed no logging is performed (unless errors
302 occur).
303
304 Bug fix: the compressed ISAM system didn't handle update operations
305 correctly.
306
307 Added setting, "maxResultSetSize", to hold the number of records to 
308 save in a result set.
309
310 Bug fix: Complete phrase did't work for search operations.
311
312 Bug fix: temporary result sets weren't deleted.
313
314 Reduced disk space for saved keys (storeKeys = 1).
315
316 Added optional, physical ANY (key replication)
317
318 Implemented proximity operator in search.
319
320 Bug fix: the path name buffers used by file match traversal routines
321 have been extended to support long file names.
322
323 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
324 configuration file. The resulting register without "storeKeys" is about
325 half the size, and the memory used by zebraidx during phase 2 (merge) is
326 reduced to a minimum.
327
328 Reworked the way Regexp-2 queries with error tolerance are handled and
329 specified. The documentation has been updated accordingly.
330
331 Bug fix: Zebrasrv didn't search correctly when queries contained masking
332 characters. This bug was introduced in 1.0a8.
333
334 Zebrasrv now tag records with the proper database name.
335
336 New settings, memMax and keyTmpDir.
337
338 Changed name of setting lockDir (previously called lockPath) and
339 setTmpDir (previously called tempSetPath).
340
341 Generalized and changed record type specifications. In short, there are:
342        text                plain SUTRS
343        grs.sgml            structured, "SGML-like" syntax
344        grs.regx.<filter>   structured, Regular expression filter
345        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
346                            is the name of an abstract syntax file.                           
347 Bug fix: Result sets weren't sorted in operations involving boolean
348 operations with "ranked" operands.
349
350 --- 1.0a8 1996/6/6
351
352 Added national character-handling subsystem.
353
354 Various fixes.
355
356 Small modifications to input filters and profiles.
357
358 Added support for SOIF syntax (with private OID).
359
360 --- 1.0a7 1996/5/16
361
362 Fixed buffer-size problem in indexing.
363
364 Added compression to temporary files for updating.
365
366 Added phrase registers.
367
368 Added dynamic mapping of search attribute to multiple termlists (ANY).
369
370 Scan support in multiple databases/registers.
371
372 Configuration settings are case-insensitive and single dash (-)
373 characters are ignored in comparisons.
374
375 The index processing ignores empty files - warning given.
376
377 New option to zebraidx (-V) displays version information.
378
379 --- 1.0a6 1996/2/24
380
381 Fixed problem in file-update system.
382
383 Fixed problem in shadow system; register was sometimes corrupted after
384 a commit operation.
385
386 --- 1.0a5 1996/2/10
387
388 Fixed problems in the ISAM subsystem. Caused difficulties when updating
389 existing registers.
390
391 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
392 the rank and record number.
393
394 Fixed bug in the isam subsystem - caused a malfunction when accessing
395 words which occurred more than 10000 times.
396
397 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
398 installation.
399
400 Server can now run under inetd. Use option -i, and -w <directory> to
401 set working directory to desired location.
402
403 New zebraidx command: clean - removes temporary shadow files.
404
405 Fixed bug in ISAM system. Occurred rarely during register updates.
406
407 Logging during index merge phase is improved. The remaining running
408 time is estimated.
409
410 Temporary files generated by zebraidx are removed after each run.
411
412 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
413 when doing scan operations in dictionaries with European characters.
414
415 --- 1.0a4 1996/01/11
416
417 A whole slew of updates, to make the first publicized release. Get the doc
418 and check it out.
419
420 --- 1.0a3 1995/12/06
421
422 Memory-problems in ISAM fixed. More blocktypes added to the default setup
423 to increase performance on larger databases.
424
425 Various minor changes in data management system.
426
427 --- 1.0a2 1995/12/05
428
429 A couple of portability-problems resolved.
430
431 Changed some malloc() to xmalloc().
432
433 --- 1.0a1 1995/11/28
434
435 First release.