Truncation=104 (CCL) support
[idzebra-moved-to-github.git] / CHANGELOG
1
2 Support Truncation 104 (CCL).
3
4 --- 1.3.6 2003/02/25
5
6 Added missing source files for perl extension.
7
8 --- 1.3.5 2003/02/23
9
10 Implemented xelm directive.
11
12 Updated for newer version of YAZ (introduction of string schema).
13
14 Directory examples/zthes now part of distribution (was missing
15 in previous release).
16
17 New .abs directive, systag, that control where to put retrieval
18 information. The directive takes two arguments: system tag, element name.
19 System tag is one of : rank, sysno, size.
20
21 --- 1.3.4 2002/11/26
22
23 Perl Filter and Perl API. By Peter Popovics.
24
25 For zebra.cfg, if no profilePath is specified, directory
26  (prefix)/share/idzebra/tab
27 is used.
28
29 Zebra Examples in examples . Zebra tests in test.
30
31 Bug fix: sort index was not properly modified on 
32 record updates/deletes.
33
34 Fix handling of character entities for sgml filter.
35
36 Move data1 to Zebra (used to be part of YAZ).
37
38 --- 1.3.3 2002/10/05
39
40 Fix character encoding of scan response terms.
41
42 Fix character decoding of scan request terms.
43
44 Fix ESpec handling (requires YAZ 1.9.1)
45
46 Fix searches for complete fields.
47
48 --- 1.3.2 2002/09/09
49
50 When name zebra is used in a filename or directory 'idzebra' is used
51 instead to avoid confusion with GNU zebra (routing software).
52
53 Zebra server stops with a fatal error if config file cannot be read.
54
55 New config setting, followLinks, that controls whether update of files
56 should follow symbolic. Set it to 1 (for enable) or 0 (to disable).
57 By default symbolic links are followed.
58
59 Fix MARC transfer . MARC fields had wrong data for multiple fields.
60
61 XML record reader moved from YAZ to Zebra, to make YAZ less 
62 dependant on external libraries.
63
64 Zebra uses yaz_iconv which is mini iconv library supporting UTF-8,
65 UCS4, ISO-8859-1. This means that Zebra does UNICODE even
66 on systems that doesn't offer iconv.
67
68 XML record reader supports external system entities.
69
70 --- 1.3.1 2002/08/20
71
72 New .abs-directive "xpath" that takes one argument: "enable"
73 or "disable" to enable and disable XPath -indexing. If no "xpath"
74 direcive is found in .abs-file , XPath-indexing is disabled to ensure
75 backwards compatibility. For missing .abs-files XPath-indexing is
76 enabled so that such records are searchable.
77
78 Zebra warns about missing .abs-file only once (for each type).
79
80 Fixed a bug in file update where already-inserted files could
81 be treated as "new".
82
83 --- 1.3.0 2002/08/05
84
85 Zebra license changed to GNU GPL.
86
87 XPath-like queries used when RPN string attributes are used, eg.
88    @attr 1=/portal/title sometitle
89    @attr 1=/portal/title[@xml:lang=da] danishtitle
90    @attr 1=/portal/title/@xml:lang da
91    @attr 1=//title sometitle
92
93 Zebra uses UTF-8 internally:
94 1) New setting "encoding" for zebra.cfg that specifies encoding for
95 OCTET terms in queries and record encoding for most transfer syntaxes
96 (except those that use International Strings, such as GRS-1).
97 2) The encoding of International strings is UTF-8 by default. It
98 may be changed by character set negotiation. If character set
99 negotiation is in effect and if records are selected for conversion
100 these'll be converted to the selected character set - thus overriding
101 the encoding setting in zebra.cfg.
102 3) New directive "encoding" in .abs-files. This specifies the external
103 character encoding for files indexed by zebra. However, if records
104 themselves have an XML header that specifies and encoding that'll be used
105 instead.
106
107 XML filter (-t grs.xml).
108
109 Multiple registers. New setting in resource 'root' that holds base
110 directory for register(s). A group a databases may be put in separate
111 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
112
113 --- 1.1.1 2002/03/21
114
115 Fixes for Digital Unix
116
117 Implemented hits per term using USR:SearchResult-1.
118
119 New Zebra API. Locking system re-implemented.
120
121 --- 1.1.stable 2002/02/20
122
123 Rank weight can be controlled with attribute type 9. Default
124 value is 34. Recommended values between 1-36.
125
126 --- 1.1 2001/10/25
127
128 Updated for YAZ version 1.8.
129
130 Added support for termsets - a result set of terms matching
131 a given query. For @attr 8=<set> creates termset named <set>.
132
133 Added support for raw retrieval. Element Set Name R forces the
134 text filter which returns the record in its original form.
135
136 Added numerical sort - triggered by structure=numeric (4=109).
137
138 Remote record import using Z39.50 Extended Services and Segments.
139
140 Fixed bug where updating a database with user-defined attributes
141 could corrupt the register (bad storeKeys).
142
143 Multi-threaded version.
144
145 Fixed bug regarding proximity.
146
147 Documentation updates.
148
149 Fixed bug in record retrieval module that occured on 64-bit OSF 
150 architectures.
151
152 --- 1.0.1 2000/2/10
153
154 Fixed bug in makefile for WIN32.
155
156 Fixed bug in configure script - used bash-specific features.
157
158 --- 1.0 1999/12/10
159
160 Added support for multiple records in one file for filter grs.sgml.
161
162 Changed record index structure. New layout is incompatible with
163 previous releases. Added setting "recordcompression" to control
164 compression of records. Possible values are "none" (no
165 compression) and bzip2 (compression using libbz2).
166
167 Added XML transfer syntax support for retrieval of structured records.
168 Schema in CompSpec is recognised in retrieval of structured records.
169
170 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
171 that fails, the filter reads the file <filt>.flt (regx style filter).
172
173 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
174 Zebra's configure script automatically attempts to locate Tcl. For
175 manual Tcl configuration use option --with-tclconfig=<path> to specify
176 where Tcl's library files are located.
177
178 Implemented "compression" of Dictionary and ISAM system. Dictionary
179 format HAS changed.
180
181 Added "tagsysno" directive to zebra.cfg to control under which tag the
182 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
183 entirely.
184
185 Added "tagrank" as above.
186
187 Changed file naming scheme for register files from <name>.mf.<no> to
188 <name>-<no>.mf.
189
190 Implemented "position"-flag for register type (as defined in
191 default.idx). When set to zero no position (or seqence number) is
192 saved in register for each word occurrence, thus saving some register
193 space.
194
195 Implemented database mapping. Using mapdb one can specify a database
196 to be mapped to one or more physical databases. Usage:
197 mapdb <fromdb> <todb> ..
198
199 Added SOIF-filter. Thanks to Peter Valkenburg.
200
201 For the regx-filter "end element -record" may trigger a mark-of-record
202 if outer level is reached.
203
204 Tag sets may be typed in the reference to it. From the .abs-file the
205 "tagset" directive takes a third optional integer type for the tag set
206 referenced. From a .tag-file the "include" directive takes a third
207 optional type as well. The old "type" directive in the tag set itself
208 is still recognized but acts as the default type for the tag set.
209  
210 Zebra supports the specification of arbitrary attributes sets, schemas
211 and tag sets, because of the change in YAZ' OID management system.
212
213 Fixed bug in Sort that caused it NOT to use character mapping as it
214 should.
215
216 Zebra now uses GNU configure to generate Makefile(s).
217
218 Added un-optimised support for left and left/right truncation attributes.
219
220 Added support for relational operators on text when using RPN queries.
221
222 Added support for sort specifications in RPN queries. Type 7 specifies
223 'sort' where value 1=ascending, value 2=descending. The use attribute
224 specifies the field criteria as usual.  The term specifies priority
225 where 0=first, 1=second, ...
226
227 Changed the way use attributes are specified in the recordId
228 specification.
229
230 Maximum number of databases in one Zebra register increased.
231
232 New setting, databasePath, which specifies that first directory during
233 update traversal is the database name (instead of a fixed one).
234
235 New setting, explainDatabase, which specifies that databases are
236 EXPLAIN aware.
237
238 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
239
240 Implemented EXPLAIN database maintenance. Zebra automatically
241 generate - and update CategoryList, TargetInfo, DatabaseInfo,
242 AttributeSetInfo and AttributeDetails records at this stage. The
243 records may be transferred as GRS-1, SUTRS or Explain.
244
245 Fixed register spec so that colon isn't treated as size separator
246 unless followed by [0-9+-] in order to allow DOS drive specifications.
247
248 Fixed two bugs in ISAMC system.
249
250 Changed the way Zebra keeps its maintenance information about attribute
251 sets, available attributes, etc.. Records in "SGML" notation using an
252 EXPLAIN schema is now used when appropriate.
253
254 Bug fix: Index didn't handle update/insert/delete of the same record
255 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
256 first occurence of a record is considered.
257
258 Most searches now return correct number of hits.
259
260 New modular ranking system. Interested programmers are encouraged to
261 inspect rank1.c and improve the algorithm.
262
263 Bug fix: Lock files weren't removed as they should on NT.
264
265 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
266 specify a "sort register". Refer to the gils sample records which refer
267 to index type "s" which is specified as "sort" in the default.idx file.
268 Each sort criteria can either be Ascending or Descending and at most
269 three sort elements can be specified.  
270
271 Bug fix: Character mapping didn't work for text files.
272
273 --- 1.0b1 1998/1/29
274
275 Simple ranked searches now return correct number of hits.
276
277 The test option (-s) only makes a read-lock on the index as well
278 as using read-only operations anywhere.
279
280 Moved towards generic character mapping. Configuration file default.idx
281 specifies character map files for register types w, p, u, etc.
282
283 Implemented "begin variant" for the sgml.regx - filter.
284
285 Fixed a few memory leaks.
286
287 Added support for C++, headers uses extern "C" for public definitions.
288
289 Bug fix: The show records facility (-s) only displayed information for
290 the first record in a file (and not for every record in the file).
291
292 Added option "-f <n>" to limit the logging of record operations. After
293 <n> records has been processed no logging is performed (unless errors
294 occur).
295
296 Bug fix: the compressed ISAM system didn't handle update operations
297 correctly.
298
299 Added setting, "maxResultSetSize", to hold the number of records to 
300 save in a result set.
301
302 Bug fix: Complete phrase did't work for search operations.
303
304 Bug fix: temporary result sets weren't deleted.
305
306 Reduced disk space for saved keys (storeKeys = 1).
307
308 Added optional, physical ANY (key replication)
309
310 Implemented proximity operator in search.
311
312 Bug fix: the path name buffers used by file match traversal routines
313 have been extended to support long file names.
314
315 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
316 configuration file. The resulting register without "storeKeys" is about
317 half the size, and the memory used by zebraidx during phase 2 (merge) is
318 reduced to a minimum.
319
320 Reworked the way Regexp-2 queries with error tolerance are handled and
321 specified. The documentation has been updated accordingly.
322
323 Bug fix: Zebrasrv didn't search correctly when queries contained masking
324 characters. This bug was introduced in 1.0a8.
325
326 Zebrasrv now tag records with the proper database name.
327
328 New settings, memMax and keyTmpDir.
329
330 Changed name of setting lockDir (previously called lockPath) and
331 setTmpDir (previously called tempSetPath).
332
333 Generalized and changed record type specifications. In short, there are:
334        text                plain SUTRS
335        grs.sgml            structured, "SGML-like" syntax
336        grs.regx.<filter>   structured, Regular expression filter
337        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
338                            is the name of an abstract syntax file.                           
339 Bug fix: Result sets weren't sorted in operations involving boolean
340 operations with "ranked" operands.
341
342 --- 1.0a8 1996/6/6
343
344 Added national character-handling subsystem.
345
346 Various fixes.
347
348 Small modifications to input filters and profiles.
349
350 Added support for SOIF syntax (with private OID).
351
352 --- 1.0a7 1996/5/16
353
354 Fixed buffer-size problem in indexing.
355
356 Added compression to temporary files for updating.
357
358 Added phrase registers.
359
360 Added dynamic mapping of search attribute to multiple termlists (ANY).
361
362 Scan support in multiple databases/registers.
363
364 Configuration settings are case-insensitive and single dash (-)
365 characters are ignored in comparisons.
366
367 The index processing ignores empty files - warning given.
368
369 New option to zebraidx (-V) displays version information.
370
371 --- 1.0a6 1996/2/24
372
373 Fixed problem in file-update system.
374
375 Fixed problem in shadow system; register was sometimes corrupted after
376 a commit operation.
377
378 --- 1.0a5 1996/2/10
379
380 Fixed problems in the ISAM subsystem. Caused difficulties when updating
381 existing registers.
382
383 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
384 the rank and record number.
385
386 Fixed bug in the isam subsystem - caused a malfunction when accessing
387 words which occurred more than 10000 times.
388
389 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
390 installation.
391
392 Server can now run under inetd. Use option -i, and -w <directory> to
393 set working directory to desired location.
394
395 New zebraidx command: clean - removes temporary shadow files.
396
397 Fixed bug in ISAM system. Occurred rarely during register updates.
398
399 Logging during index merge phase is improved. The remaining running
400 time is estimated.
401
402 Temporary files generated by zebraidx are removed after each run.
403
404 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
405 when doing scan operations in dictionaries with European characters.
406
407 --- 1.0a4 1996/01/11
408
409 A whole slew of updates, to make the first publicized release. Get the doc
410 and check it out.
411
412 --- 1.0a3 1995/12/06
413
414 Memory-problems in ISAM fixed. More blocktypes added to the default setup
415 to increase performance on larger databases.
416
417 Various minor changes in data management system.
418
419 --- 1.0a2 1995/12/05
420
421 A couple of portability-problems resolved.
422
423 Changed some malloc() to xmalloc().
424
425 --- 1.0a1 1995/11/28
426
427 First release.