|
|
发表于 2014-1-14 23:39:30
|
显示全部楼层
LZO
编辑
LZO 是致力于解压速度的一种数据压缩算法，LZO 是 Lempel-Ziv-Oberhumer 的缩写。这个算法是无损算法，参考实现程序是线程安全的。 实现它的一个自由软件工具是lzop。最初的库是用 ANSI C 编写、并且遵从 GNU通用公共许可证发布的。现在 LZO 有用于 Perl、Python 以及 Java 的各种版本。代码版权的所有者是 Markus F. X. J. Oberhumer。
目录
1特点
2C语言压缩算法
3C语言解压缩算法
1特点
LZO 库实现了许多有下述特点的算法：
* 解压简单，速度非常快。
* 解压不需要内存。
* 压缩相当地快。
* 压缩需要 64 kB 的内存。
* 允许在压缩部分以损失压缩速度为代价提高压缩率，解压速度不会降低。
* 包括生成预先压缩数据的压缩级别，这样可以得到相当有竞争力的压缩比。
* 另外还有一个只需要 8 kB 内存的压缩级别。
* 算法是线程安全的。
* 算法是无损的。
LZO 支持重复压缩以及原地解压。
LZO 是块压缩算法——压缩解压成块的数据。压缩与解压所用块的大小必须一样。
LZO 将数据块压缩成匹配数据（滑动字典）与非匹配文字的序列。LZO 对于较长的匹配数据以及较长的非匹配文字序列有专门的处理，这样对于高度冗余的数据能够取得很好的效果，并且对于不可压缩的数据也能得到可以接受的效果。
当处理不可压缩数据的时候，LZO 将每个 1024 字节的输入数据块扩展 16 字节。
据报道 LZO 也在 AIX、 ConvexOS、IRIX、Mac OS、Palm OS、 PS1（PlayStation）、Solaris、SunOS、TOS (Atari ST) 以及 VxWorks 上得到实现。
2C语言压缩算法
static unsigned _do_compress (byte *in, unsigned in_len, byte *out, unsigned *out_len)
{
static long wrkmem [16384L];
register byte *ip;
byte *op;
byte *in_end = in + in_len;
byte *ip_end = in + in_len -3;
byte *ii; // 指向开始编码的位置
byte **dict = (byte **)wrkmem;
op = out;
ip = in;
ii = ip;
ip += 4;
for(;;)
{
register byte *m_pos;
unsigned m_off;
unsigned m_len;
unsigned dindex; // hashkey(ip[0], ip[1], ip[2], ip[3])
dindex = ((0x21*(((((((unsigned)(ip[3])<<6)^ip[2])<<5)^ip[1])<<5)^ip[0]))>>5) & 0x3fff;
m_pos = dict [dindex];
if(((unsigned)m_pos < (unsigned)in) ||
(m_off = (unsigned)((unsigned)ip-(unsigned)m_pos) ) <= 0 ||
m_off > 0xbfff) // 0xc000 48kb
goto literal;
if(m_off <= 0x0800 || m_pos[3] == ip[3]) // 回指长度小于2Kb
goto try_match;
dindex = (dindex & 0x7ff ) ^ 0x201f; // 处理冲突,第二次hash
m_pos = dict[dindex];
if((unsigned)(m_pos) < (unsigned)(in) ||
(m_off = (unsigned)( (int)((unsigned)ip-(unsigned)m_pos))) <= 0 ||
m_off > 0xbfff)
goto literal;
if (m_off <= 0x0800 || m_pos[3] == ip[3]) // 回指长度小于2Kb
goto try_match; // 第三个字节相等
goto literal;
try_match: // m_pos[0],m_pos[1],m_pos[2]都匹配成功时,继续比较
if(*(unsigned short*)m_pos == *(unsigned short*)ip && m_pos[2]== ip[2])
goto match;
literal: // 匹配不成功时,或者无记录
dict[dindex] = ip; // 记录字符串为ip[0],ip[1],ip[2],ip[3]的地址
++ip;
if (ip >= ip_end)
break;
continue;
match: // 在得到匹配长度与位置之前,先输出未匹配的字符
dict[dindex] = ip; // 更新，字符匹配时的位置(未编码)
if(ip - ii > 0) // 存在新字符
{
register unsigned t = ip - ii; // t:新字符的数目(未匹配的)
if (t <= 3) // 新字符数目<3时
op[-2] |= (byte)t; // 对两个保留字元赋值
else if(t <= 18) // 新字符数目<18时
*op++ = (byte)(t - 3);
else
{
register unsigned tt = t - 18;
*op++ = 0;
while(tt > 255) // 构建新位元组
{
tt -= 255;
*op++ = 0;
}
*op++ = (byte)tt;
}
do
{
*op++ = *ii++; // ii指向开始匹配的位置(未编码)
}while (--t > 0); // 输出 t个新字符
}
ip += 3; // 跳过与m_pos[0] m_pos[1] m_pos[2]的比较
if(m_pos[3] != *ip++ || m_pos[4] != *ip++ || m_pos[5] != *ip++ ||
m_pos[6] != *ip++ || m_pos[7] != *ip++ || m_pos[8] != *ip++ )
{
--ip;
m_len = ip - ii; // 得到重复长度<=8
if(m_off <= 0x0800 ) // 回指长度小于2kb
{
--m_off; // m_off,与m_len在输出时都减1
// m_off在第一位元组(byte)占三位,m_off&7 小于8
*op++ = (byte)(((m_len - 1) << 5) | ((m_off & 7) << 2));
*op++ = (byte)(m_off >> 3); // 去除已用的低3位
}
else
if (m_off <= 0x4000 ) // 回指长度小于16kb
{
-- m_off;
*op++ = (byte)(32 | (m_len - 2));
goto m3_m4_offset;
}
else // 回指长度大于16时
{
m_off -= 0x4000;
*op++ = (byte)(16 | ((m_off & 0x4000) >> 11) | (m_len - 2));
goto m3_m4_offset;
}
}
else // 重复长度大于8时
{
{
byte *end = in_end;
byte *m = m_pos + 9; // 从m_pos[9]开始比较
while (ip < end && *m == *ip)
m++, ip++;
m_len = (ip - ii);
}
if(m_off <= 0x4000) // 回指长度小于16kb
{
--m_off;
if (m_len <= 33) // 可用5bit表示时
*op++ = (byte)(32 | (m_len - 2));
else
{
m_len -= 33;
*op++ = 32;
goto m3_m4_len;
}
}
else // 回指长度大于16kb ,小于48 kb
{
m_off -= 0x4000;
if(m_len <= 9)
*op++ = (byte)(16|((m_off & 0x4000) >> 11) | (m_len - 2));
else
{
m_len -= 9;
*op++ = (byte)(16 | ((m_off & 0x4000) >> 11));
m3_m4_len:
while (m_len > 255)
{
m_len -= 255;
*op++ = 0;
}
*op++ = (byte)m_len;
}
}
m3_m4_offset:
*op++ = (byte)((m_off & 63) << 2);
*op++ = (byte)(m_off >> 6);
}
ii = ip; // 下次匹配的开始位置
if (ip >= ip_end)
break;
}
*out_len = op - out;
return (unsigned) (in_end - ii);
}
3C语言解压缩算法
int _stdcall compress(byte *in, unsigned in_len, byte *out)
{
byte *op = out;
unsigned t,out_len;
if (in_len <= 13)
t = in_len;
else
{
t = _do_compress (in,in_len,op,&out_len);
op += out_len;
}
if (t > 0) // t: 未编码的字符大小,即新字符的数目
{
byte *ii = (byte*)in + in_len - t; // 未编码的开始地址
if (op == (byte*)out && t <= 238)
*op++ = (byte) ( 17 + t );
else
if (t <= 3) // 新字符数目<3时
op[-2] |= (byte)t ;
else
if (t <= 18) // 新字符数目<18 时
*op++ = (byte)(t-3);
else
{
unsigned tt = t - 18;
*op++ = 0;
while (tt > 255)
{
tt -= 255;
*op++ = 0;
}
*op++ = (byte)tt;
}
do
{
*op++ = *ii++;
}while (--t > 0); // 输出t个新字符
}
*op++ = 17; // 结束编码标志
*op++ = 0;
*op++ = 0;
return (op - (byte*)out); // 返回编码后的长度
}
int _stdcall decompress(byte *in, unsigned in_len, byte *out)
{
register byte *op; // 输出临时缓存区
register byte *ip;
register unsigned t;
register byte *m_pos;
byte *ip_end = (byte*)in + in_len;
op = out;
ip = in;
if(*ip > 17)
{
t = *ip++ - 17;
if (t < 4)
goto match_next;
do *op++ = *ip++; while (--t > 0);
goto first_literal_run;
}
for(;;)
{
t = *ip++; // 得到新字符的数目(t+3)
if (t >= 16) // 新字符数目(t+3) > 18时
goto match;
if (t == 0) // 新字符数目大于18时
{
while (*ip == 0)
{
t += 255;
ip++;
}
t += 15 + *ip++; // 得到具体新字符数目大小(t+3)
}
// 获取t新字符,每次以4个为单位
* (unsigned *) op = * ( unsigned *) ip; // 获取sizeof(unsigned)个新字符
op += 4;
ip += 4;
if (--t > 0) // 新字符数目:t+4-1 = t + 3,已处理了4个
{
if (t >= 4)
{
do
{
// 获取sizeof(unsigned)个新字符,即4个,以4个为单位
* (unsigned * ) op = * ( unsigned * ) ip;
op += 4;
ip += 4;
t -= 4;
} while (t >= 4);
if (t > 0) // 不足一个单位时,且t>0
{
do
{
*op++ = *ip++;
}while (--t > 0);
}
}
else
{
do
{
*op++ = *ip++;
}while (--t > 0);
}
}
first_literal_run:
t = *ip++; // 判断是否是重复字符编码
if (t >= 16) // 是重复字符编码
goto match;
m_pos = op - 0x0801;
m_pos -= t >> 2;
m_pos -= *ip++ << 2;
*op++ = *m_pos++; *op++ = *m_pos++; *op++ = *m_pos;
goto match_done;
for(;;)
{
match:
// 根据第一单元组来判断其解压种类
if (t >= 64) // 回指长度小于2Kb
{
// int match_len = (*ip++ << 3) | ((t >> 2) & 7) + 1;
// m_pos= op -match_len; //得到匹配位置
m_pos = op - 1; //
m_pos -= (t >> 2) & 7; // 得到第一个位元组的distance
m_pos -= *ip++ << 3; //得到匹配位置
t = (t >> 5) - 1; // 得到第一个位元组的len - 1
goto copy_match;
}
else if (t >= 32) // 回指长度大于2Kb < 16kb
{
t &= 31;
if (t == 0)
{
while (*ip == 0)
{
t += 255;
ip++;
}
t += 31 + *ip++;
}
m_pos = op - 1;
m_pos -= (* ( unsigned short * ) ip) >> 2;
ip += 2;
}
else if (t >= 16) // 回指长度大于16 Kb,或者结束标志
{
m_pos = op;
m_pos -= (t & 8) << 11; // 获得第一个单元组的distance
t &= 7; // 获取第一个单元组的len
if (t == 0)
{
while (*ip == 0)
{
t += 255;
ip++;
}
t += 7 + *ip++;
}
m_pos -= (* ( unsigned short *) ip) >> 2;
ip += 2;
if (m_pos == op) // 判断是否为结束标志
goto eof_found;
m_pos -= 0x4000;
}
else
{
m_pos = op - 1;
m_pos -= t >> 2;
m_pos -= *ip++ << 2;
*op++ = *m_pos++; *op++ = *m_pos;
goto match_done;
}
if (t >= 6 && (op - m_pos) >= 4)
{
* (unsigned *) op = * ( unsigned *) m_pos;
op += 4;
m_pos += 4;
t -= 2;
do
{
* (unsigned *) op = * ( unsigned *) m_pos;
op += 4;
m_pos += 4;
t -= 4;
}while (t >= 4);
if (t > 0)
do
{
*op++ = *m_pos++;
}while (--t > 0);
}
else
{
copy_match:
*op++ = *m_pos++; // 获得前两个匹配字符
*op++ = *m_pos++;
do
{
*op++ = *m_pos++;
}while (--t > 0); // 获得剩余的匹配字符
}
match_done:
t = ip[-2] & 3; // 获取保留位,当新字符数目<=3时
if (t == 0) // 保留位未使用时,即新字符数目>3
break;
match_next:
do
{
*op++ = *ip++;
}while (--t > 0);
t = *ip++; // 下一个匹配单元
}
}
eof_found:
if (ip != ip_end)
return -1;
return (op - (byte*)out); // 返回解码后的长度
} |
|
楼主
