Skip to content

L
linux
Commit 83f89ca7 authored by Linus Torvalds's avatar Linus Torvalds
Browse files
Options

Merge git://git.kernel.org/pub/scm/linux/kernel/git/davem/sparc 

* git://git.kernel.org/pub/scm/linux/kernel/git/davem/sparc:
  sparc64: Fix masking and shifting in VIS fpcmp emulation.
  sparc32: Correct the return value of memcpy.
  sparc32: Remove uses of %g7 in memcpy implementation.
  sparc32: Remove non-kernel code from memcpy implementation.
parents 571109f5 2e8ecdc0
Show whitespace changes
Inline Side-by-side
Showing with 115 additions and 721 deletions
arch/sparc/kernel/visemul.c
View file @ 83f89ca7
...@@ -713,17 +713,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf) ...@@ -713,17 +713,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf)
s16 b = (rs2 >> (i * 16)) & 0xffff; s16 b = (rs2 >> (i * 16)) & 0xffff;
if (a > b) if (a > b)
rd_val |= 1 << i; rd_val |= 8 >> i;
} }
break; break;
case FCMPGT32_OPF: case FCMPGT32_OPF:
for (i = 0; i < 2; i++) { for (i = 0; i < 2; i++) {
s32 a = (rs1 >> (i * 32)) & 0xffff; s32 a = (rs1 >> (i * 32)) & 0xffffffff;
s32 b = (rs2 >> (i * 32)) & 0xffff; s32 b = (rs2 >> (i * 32)) & 0xffffffff;
if (a > b) if (a > b)
rd_val |= 1 << i; rd_val |= 2 >> i;
} }
break; break;
...@@ -733,17 +733,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf) ...@@ -733,17 +733,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf)
s16 b = (rs2 >> (i * 16)) & 0xffff; s16 b = (rs2 >> (i * 16)) & 0xffff;
if (a <= b) if (a <= b)
rd_val |= 1 << i; rd_val |= 8 >> i;
} }
break; break;
case FCMPLE32_OPF: case FCMPLE32_OPF:
for (i = 0; i < 2; i++) { for (i = 0; i < 2; i++) {
s32 a = (rs1 >> (i * 32)) & 0xffff; s32 a = (rs1 >> (i * 32)) & 0xffffffff;
s32 b = (rs2 >> (i * 32)) & 0xffff; s32 b = (rs2 >> (i * 32)) & 0xffffffff;
if (a <= b) if (a <= b)
rd_val |= 1 << i; rd_val |= 2 >> i;
} }
break; break;
...@@ -753,17 +753,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf) ...@@ -753,17 +753,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf)
s16 b = (rs2 >> (i * 16)) & 0xffff; s16 b = (rs2 >> (i * 16)) & 0xffff;
if (a != b) if (a != b)
rd_val |= 1 << i; rd_val |= 8 >> i;
} }
break; break;
case FCMPNE32_OPF: case FCMPNE32_OPF:
for (i = 0; i < 2; i++) { for (i = 0; i < 2; i++) {
s32 a = (rs1 >> (i * 32)) & 0xffff; s32 a = (rs1 >> (i * 32)) & 0xffffffff;
s32 b = (rs2 >> (i * 32)) & 0xffff; s32 b = (rs2 >> (i * 32)) & 0xffffffff;
if (a != b) if (a != b)
rd_val |= 1 << i; rd_val |= 2 >> i;
} }
break; break;
...@@ -773,17 +773,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf) ...@@ -773,17 +773,17 @@ static void pcmp(struct pt_regs *regs, unsigned int insn, unsigned int opf)
s16 b = (rs2 >> (i * 16)) & 0xffff; s16 b = (rs2 >> (i * 16)) & 0xffff;
if (a == b) if (a == b)
rd_val |= 1 << i; rd_val |= 8 >> i;
} }
break; break;
case FCMPEQ32_OPF: case FCMPEQ32_OPF:
for (i = 0; i < 2; i++) { for (i = 0; i < 2; i++) {
s32 a = (rs1 >> (i * 32)) & 0xffff; s32 a = (rs1 >> (i * 32)) & 0xffffffff;
s32 b = (rs2 >> (i * 32)) & 0xffff; s32 b = (rs2 >> (i * 32)) & 0xffffffff;
if (a == b) if (a == b)
rd_val |= 1 << i; rd_val |= 2 >> i;
} }
break; break;
} }
......
arch/sparc/lib/memcpy.S
View file @ 83f89ca7
...@@ -7,40 +7,12 @@ ...@@ -7,40 +7,12 @@
* Copyright (C) 1996 Jakub Jelinek (jj@sunsite.mff.cuni.cz) * Copyright (C) 1996 Jakub Jelinek (jj@sunsite.mff.cuni.cz)
*/ */
#ifdef __KERNEL__
#define FUNC(x) \ #define FUNC(x) \
.globl x; \ .globl x; \
.type x,@function; \ .type x,@function; \
.align 4; \ .align 4; \
x: x:
#undef FASTER_REVERSE
#undef FASTER_NONALIGNED
#define FASTER_ALIGNED
/* In kernel these functions don't return a value.
* One should use macros in asm/string.h for that purpose.
* We return 0, so that bugs are more apparent.
*/
#define SETUP_RETL
#define RETL_INSN clr %o0
#else
/* libc */
#include "DEFS.h"
#define FASTER_REVERSE
#define FASTER_NONALIGNED
#define FASTER_ALIGNED
#define SETUP_RETL mov %o0, %g6
#define RETL_INSN mov %g6, %o0
#endif
/* Both these macros have to start with exactly the same insn */ /* Both these macros have to start with exactly the same insn */
#define MOVE_BIGCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) \ #define MOVE_BIGCHUNK(src, dst, offset, t0, t1, t2, t3, t4, t5, t6, t7) \
ldd [%src + (offset) + 0x00], %t0; \ ldd [%src + (offset) + 0x00], %t0; \
...@@ -164,30 +136,6 @@ x: ...@@ -164,30 +136,6 @@ x:
.text .text
.align 4 .align 4
#ifdef FASTER_REVERSE
70: /* rdword_align */
andcc %o1, 1, %g0
be 4f
andcc %o1, 2, %g0
ldub [%o1 - 1], %g2
sub %o1, 1, %o1
stb %g2, [%o0 - 1]
sub %o2, 1, %o2
be 3f
sub %o0, 1, %o0
4:
lduh [%o1 - 2], %g2
sub %o1, 2, %o1
sth %g2, [%o0 - 2]
sub %o2, 2, %o2
b 3f
sub %o0, 2, %o0
#endif /* FASTER_REVERSE */
0: 0:
retl retl
nop ! Only bcopy returns here and it retuns void... nop ! Only bcopy returns here and it retuns void...
...@@ -198,7 +146,7 @@ FUNC(__memmove) ...@@ -198,7 +146,7 @@ FUNC(__memmove)
#endif #endif
FUNC(memmove) FUNC(memmove)
cmp %o0, %o1 cmp %o0, %o1
SETUP_RETL mov %o0, %g7
bleu 9f bleu 9f
sub %o0, %o1, %o4 sub %o0, %o1, %o4
...@@ -207,8 +155,6 @@ FUNC(memmove) ...@@ -207,8 +155,6 @@ FUNC(memmove)
bleu 0f bleu 0f
andcc %o4, 3, %o5 andcc %o4, 3, %o5
#ifndef FASTER_REVERSE
add %o1, %o2, %o1 add %o1, %o2, %o1
add %o0, %o2, %o0 add %o0, %o2, %o0
sub %o1, 1, %o1 sub %o1, 1, %o1
...@@ -224,295 +170,7 @@ FUNC(memmove) ...@@ -224,295 +170,7 @@ FUNC(memmove)
sub %o0, 1, %o0 sub %o0, 1, %o0
retl retl
RETL_INSN mov %g7, %o0
#else /* FASTER_REVERSE */
add %o1, %o2, %o1
add %o0, %o2, %o0
bne 77f
cmp %o2, 15
bleu 91f
andcc %o1, 3, %g0
bne 70b
3:
andcc %o1, 4, %g0
be 2f
mov %o2, %g1
ld [%o1 - 4], %o4
sub %g1, 4, %g1
st %o4, [%o0 - 4]
sub %o1, 4, %o1
sub %o0, 4, %o0
2:
andcc %g1, 0xffffff80, %g7
be 3f
andcc %o0, 4, %g0
be 74f + 4
5:
RMOVE_BIGCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
subcc %g7, 128, %g7
sub %o1, 128, %o1
bne 5b
sub %o0, 128, %o0
3:
andcc %g1, 0x70, %g7
be 72f
andcc %g1, 8, %g0
sethi %hi(72f), %o5
srl %g7, 1, %o4
add %g7, %o4, %o4
sub %o1, %g7, %o1
sub %o5, %o4, %o5
jmpl %o5 + %lo(72f), %g0
sub %o0, %g7, %o0
71: /* rmemcpy_table */
RMOVE_LASTCHUNK(o1, o0, 0x60, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x50, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x40, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x30, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x20, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x10, g2, g3, g4, g5)
RMOVE_LASTCHUNK(o1, o0, 0x00, g2, g3, g4, g5)
72: /* rmemcpy_table_end */
be 73f
andcc %g1, 4, %g0
ldd [%o1 - 0x08], %g2
sub %o0, 8, %o0
sub %o1, 8, %o1
st %g2, [%o0]
st %g3, [%o0 + 0x04]
73: /* rmemcpy_last7 */
be 1f
andcc %g1, 2, %g0
ld [%o1 - 4], %g2
sub %o1, 4, %o1
st %g2, [%o0 - 4]
sub %o0, 4, %o0
1:
be 1f
andcc %g1, 1, %g0
lduh [%o1 - 2], %g2
sub %o1, 2, %o1
sth %g2, [%o0 - 2]
sub %o0, 2, %o0
1:
be 1f
nop
ldub [%o1 - 1], %g2
stb %g2, [%o0 - 1]
1:
retl
RETL_INSN
74: /* rldd_std */
RMOVE_BIGALIGNCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGALIGNCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGALIGNCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
RMOVE_BIGALIGNCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
subcc %g7, 128, %g7
sub %o1, 128, %o1
bne 74b
sub %o0, 128, %o0
andcc %g1, 0x70, %g7
be 72b
andcc %g1, 8, %g0
sethi %hi(72b), %o5
srl %g7, 1, %o4
add %g7, %o4, %o4
sub %o1, %g7, %o1
sub %o5, %o4, %o5
jmpl %o5 + %lo(72b), %g0
sub %o0, %g7, %o0
75: /* rshort_end */
and %o2, 0xe, %o3
2:
sethi %hi(76f), %o5
sll %o3, 3, %o4
sub %o0, %o3, %o0
sub %o5, %o4, %o5
sub %o1, %o3, %o1
jmpl %o5 + %lo(76f), %g0
andcc %o2, 1, %g0
RMOVE_SHORTCHUNK(o1, o0, 0x0c, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x0a, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x08, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x06, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x04, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x02, g2, g3)
RMOVE_SHORTCHUNK(o1, o0, 0x00, g2, g3)
76: /* rshort_table_end */
be 1f
nop
ldub [%o1 - 1], %g2
stb %g2, [%o0 - 1]
1:
retl
RETL_INSN
91: /* rshort_aligned_end */
bne 75b
andcc %o2, 8, %g0
be 1f
andcc %o2, 4, %g0
ld [%o1 - 0x08], %g2
ld [%o1 - 0x04], %g3
sub %o1, 8, %o1
st %g2, [%o0 - 0x08]
st %g3, [%o0 - 0x04]
sub %o0, 8, %o0
1:
b 73b
mov %o2, %g1
77: /* rnon_aligned */
cmp %o2, 15
bleu 75b
andcc %o0, 3, %g0
be 64f
andcc %o0, 1, %g0
be 63f
andcc %o0, 2, %g0
ldub [%o1 - 1], %g5
sub %o1, 1, %o1
stb %g5, [%o0 - 1]
sub %o0, 1, %o0
be 64f
sub %o2, 1, %o2
63:
ldub [%o1 - 1], %g5
sub %o1, 2, %o1
stb %g5, [%o0 - 1]
sub %o0, 2, %o0
ldub [%o1], %g5
sub %o2, 2, %o2
stb %g5, [%o0]
64:
and %o1, 3, %g2
and %o1, -4, %o1
and %o2, 0xc, %g3
add %o1, 4, %o1
cmp %g3, 4
sll %g2, 3, %g4
mov 32, %g2
be 4f
sub %g2, %g4, %g7
blu 3f
cmp %g3, 8
be 2f
srl %o2, 2, %g3
ld [%o1 - 4], %o3
add %o0, -8, %o0
ld [%o1 - 8], %o4
add %o1, -16, %o1
b 7f
add %g3, 1, %g3
2:
ld [%o1 - 4], %o4
add %o0, -4, %o0
ld [%o1 - 8], %g1
add %o1, -12, %o1
b 8f
add %g3, 2, %g3
3:
ld [%o1 - 4], %o5
add %o0, -12, %o0
ld [%o1 - 8], %o3
add %o1, -20, %o1
b 6f
srl %o2, 2, %g3
4:
ld [%o1 - 4], %g1
srl %o2, 2, %g3
ld [%o1 - 8], %o5
add %o1, -24, %o1
add %o0, -16, %o0
add %g3, -1, %g3
ld [%o1 + 12], %o3
5:
sll %o5, %g4, %g2
srl %g1, %g7, %g5
or %g2, %g5, %g2
st %g2, [%o0 + 12]
6:
ld [%o1 + 8], %o4
sll %o3, %g4, %g2
srl %o5, %g7, %g5
or %g2, %g5, %g2
st %g2, [%o0 + 8]
7:
ld [%o1 + 4], %g1
sll %o4, %g4, %g2
srl %o3, %g7, %g5
or %g2, %g5, %g2
st %g2, [%o0 + 4]
8:
ld [%o1], %o5
sll %g1, %g4, %g2
srl %o4, %g7, %g5
addcc %g3, -4, %g3
or %g2, %g5, %g2
add %o1, -16, %o1
st %g2, [%o0]
add %o0, -16, %o0
bne,a 5b
ld [%o1 + 12], %o3
sll %o5, %g4, %g2
srl %g1, %g7, %g5
srl %g4, 3, %g3
or %g2, %g5, %g2
add %o1, %g3, %o1
andcc %o2, 2, %g0
st %g2, [%o0 + 12]
be 1f
andcc %o2, 1, %g0
ldub [%o1 + 15], %g5
add %o1, -2, %o1
stb %g5, [%o0 + 11]
add %o0, -2, %o0
ldub [%o1 + 16], %g5
stb %g5, [%o0 + 12]
1:
be 1f
nop
ldub [%o1 + 15], %g5
stb %g5, [%o0 + 11]
1:
retl
RETL_INSN
#endif /* FASTER_REVERSE */
/* NOTE: This code is executed just for the cases, /* NOTE: This code is executed just for the cases,
where %src (=%o1) & 3 is != 0. where %src (=%o1) & 3 is != 0.
...@@ -546,7 +204,7 @@ FUNC(memmove) ...@@ -546,7 +204,7 @@ FUNC(memmove)
FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
sub %o0, %o1, %o4 sub %o0, %o1, %o4
SETUP_RETL mov %o0, %g7
9: 9:
andcc %o4, 3, %o5 andcc %o4, 3, %o5
0: 0:
...@@ -569,7 +227,7 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ ...@@ -569,7 +227,7 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
add %o1, 4, %o1 add %o1, 4, %o1
add %o0, 4, %o0 add %o0, 4, %o0
2: 2:
andcc %g1, 0xffffff80, %g7 andcc %g1, 0xffffff80, %g0
be 3f be 3f
andcc %o0, 4, %g0 andcc %o0, 4, %g0
...@@ -579,22 +237,23 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ ...@@ -579,22 +237,23 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
MOVE_BIGCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
MOVE_BIGCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
MOVE_BIGCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
subcc %g7, 128, %g7 sub %g1, 128, %g1
add %o1, 128, %o1 add %o1, 128, %o1
bne 5b cmp %g1, 128
bge 5b
add %o0, 128, %o0 add %o0, 128, %o0
3: 3:
andcc %g1, 0x70, %g7 andcc %g1, 0x70, %g4
be 80f be 80f
andcc %g1, 8, %g0 andcc %g1, 8, %g0
sethi %hi(80f), %o5 sethi %hi(80f), %o5
srl %g7, 1, %o4 srl %g4, 1, %o4
add %g7, %o4, %o4 add %g4, %o4, %o4
add %o1, %g7, %o1 add %o1, %g4, %o1
sub %o5, %o4, %o5 sub %o5, %o4, %o5
jmpl %o5 + %lo(80f), %g0 jmpl %o5 + %lo(80f), %g0
add %o0, %g7, %o0 add %o0, %g4, %o0
79: /* memcpy_table */ 79: /* memcpy_table */
...@@ -641,43 +300,28 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ ...@@ -641,43 +300,28 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
stb %g2, [%o0] stb %g2, [%o0]
1: 1:
retl retl
RETL_INSN mov %g7, %o0
82: /* ldd_std */ 82: /* ldd_std */
MOVE_BIGALIGNCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGALIGNCHUNK(o1, o0, 0x00, o2, o3, o4, o5, g2, g3, g4, g5)
MOVE_BIGALIGNCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGALIGNCHUNK(o1, o0, 0x20, o2, o3, o4, o5, g2, g3, g4, g5)
MOVE_BIGALIGNCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGALIGNCHUNK(o1, o0, 0x40, o2, o3, o4, o5, g2, g3, g4, g5)
MOVE_BIGALIGNCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5) MOVE_BIGALIGNCHUNK(o1, o0, 0x60, o2, o3, o4, o5, g2, g3, g4, g5)
subcc %g7, 128, %g7 subcc %g1, 128, %g1
add %o1, 128, %o1 add %o1, 128, %o1
bne 82b cmp %g1, 128
bge 82b
add %o0, 128, %o0 add %o0, 128, %o0
#ifndef FASTER_ALIGNED andcc %g1, 0x70, %g4
andcc %g1, 0x70, %g7
be 80b
andcc %g1, 8, %g0
sethi %hi(80b), %o5
srl %g7, 1, %o4
add %g7, %o4, %o4
add %o1, %g7, %o1
sub %o5, %o4, %o5
jmpl %o5 + %lo(80b), %g0
add %o0, %g7, %o0
#else /* FASTER_ALIGNED */
andcc %g1, 0x70, %g7
be 84f be 84f
andcc %g1, 8, %g0 andcc %g1, 8, %g0
sethi %hi(84f), %o5 sethi %hi(84f), %o5
add %o1, %g7, %o1 add %o1, %g4, %o1
sub %o5, %g7, %o5 sub %o5, %g4, %o5
jmpl %o5 + %lo(84f), %g0 jmpl %o5 + %lo(84f), %g0
add %o0, %g7, %o0 add %o0, %g4, %o0
83: /* amemcpy_table */ 83: /* amemcpy_table */
...@@ -721,382 +365,132 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ ...@@ -721,382 +365,132 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
stb %g2, [%o0] stb %g2, [%o0]
1: 1:
retl retl
RETL_INSN mov %g7, %o0
#endif /* FASTER_ALIGNED */
86: /* non_aligned */ 86: /* non_aligned */
cmp %o2, 6 cmp %o2, 6
bleu 88f bleu 88f
nop
#ifdef FASTER_NONALIGNED save %sp, -96, %sp
andcc %i0, 3, %g0
cmp %o2, 256
bcc 87f
#endif /* FASTER_NONALIGNED */
andcc %o0, 3, %g0
be 61f be 61f
andcc %o0, 1, %g0 andcc %i0, 1, %g0
be 60f be 60f
andcc %o0, 2, %g0 andcc %i0, 2, %g0
ldub [%o1], %g5 ldub [%i1], %g5
add %o1, 1, %o1 add %i1, 1, %i1
stb %g5, [%o0] stb %g5, [%i0]
sub %o2, 1, %o2 sub %i2, 1, %i2
bne 61f bne 61f
add %o0, 1, %o0 add %i0, 1, %i0
60: 60:
ldub [%o1], %g3 ldub [%i1], %g3
add %o1, 2, %o1 add %i1, 2, %i1
stb %g3, [%o0] stb %g3, [%i0]
sub %o2, 2, %o2 sub %i2, 2, %i2
ldub [%o1 - 1], %g3 ldub [%i1 - 1], %g3
add %o0, 2, %o0 add %i0, 2, %i0
stb %g3, [%o0 - 1] stb %g3, [%i0 - 1]
61: 61:
and %o1, 3, %g2 and %i1, 3, %g2
and %o2, 0xc, %g3 and %i2, 0xc, %g3
and %o1, -4, %o1 and %i1, -4, %i1
cmp %g3, 4 cmp %g3, 4
sll %g2, 3, %g4 sll %g2, 3, %g4
mov 32, %g2 mov 32, %g2
be 4f be 4f
sub %g2, %g4, %g7 sub %g2, %g4, %l0
blu 3f blu 3f
cmp %g3, 0x8 cmp %g3, 0x8
be 2f be 2f
srl %o2, 2, %g3 srl %i2, 2, %g3
ld [%o1], %o3 ld [%i1], %i3
add %o0, -8, %o0 add %i0, -8, %i0
ld [%o1 + 4], %o4 ld [%i1 + 4], %i4
b 8f b 8f
add %g3, 1, %g3 add %g3, 1, %g3
2: 2:
ld [%o1], %o4 ld [%i1], %i4
add %o0, -12, %o0 add %i0, -12, %i0
ld [%o1 + 4], %o5 ld [%i1 + 4], %i5
add %g3, 2, %g3 add %g3, 2, %g3
b 9f b 9f
add %o1, -4, %o1 add %i1, -4, %i1
3: 3:
ld [%o1], %g1 ld [%i1], %g1
add %o0, -4, %o0 add %i0, -4, %i0
ld [%o1 + 4], %o3 ld [%i1 + 4], %i3
srl %o2, 2, %g3 srl %i2, 2, %g3
b 7f b 7f
add %o1, 4, %o1 add %i1, 4, %i1
4: 4:
ld [%o1], %o5 ld [%i1], %i5
cmp %o2, 7 cmp %i2, 7
ld [%o1 + 4], %g1 ld [%i1 + 4], %g1
srl %o2, 2, %g3 srl %i2, 2, %g3
bleu 10f bleu 10f
add %o1, 8, %o1 add %i1, 8, %i1
ld [%o1], %o3 ld [%i1], %i3
add %g3, -1, %g3 add %g3, -1, %g3
5: 5:
sll %o5, %g4, %g2 sll %i5, %g4, %g2
srl %g1, %g7, %g5 srl %g1, %l0, %g5
or %g2, %g5, %g2 or %g2, %g5, %g2
st %g2, [%o0] st %g2, [%i0]
7: 7:
ld [%o1 + 4], %o4 ld [%i1 + 4], %i4
sll %g1, %g4, %g2 sll %g1, %g4, %g2
srl %o3, %g7, %g5 srl %i3, %l0, %g5
or %g2, %g5, %g2 or %g2, %g5, %g2
st %g2, [%o0 + 4] st %g2, [%i0 + 4]
8: 8:
ld [%o1 + 8], %o5 ld [%i1 + 8], %i5
sll %o3, %g4, %g2 sll %i3, %g4, %g2
srl %o4, %g7, %g5 srl %i4, %l0, %g5
or %g2, %g5, %g2 or %g2, %g5, %g2
st %g2, [%o0 + 8] st %g2, [%i0 + 8]
9: 9:
ld [%o1 + 12], %g1 ld [%i1 + 12], %g1
sll %o4, %g4, %g2 sll %i4, %g4, %g2
srl %o5, %g7, %g5 srl %i5, %l0, %g5
addcc %g3, -4, %g3 addcc %g3, -4, %g3
or %g2, %g5, %g2 or %g2, %g5, %g2
add %o1, 16, %o1 add %i1, 16, %i1
st %g2, [%o0 + 12] st %g2, [%i0 + 12]
add %o0, 16, %o0 add %i0, 16, %i0
bne,a 5b bne,a 5b
ld [%o1], %o3 ld [%i1], %i3
10: 10:
sll %o5, %g4, %g2 sll %i5, %g4, %g2
srl %g1, %g7, %g5 srl %g1, %l0, %g5
srl %g7, 3, %g3 srl %l0, 3, %g3
or %g2, %g5, %g2 or %g2, %g5, %g2
sub %o1, %g3, %o1 sub %i1, %g3, %i1
andcc %o2, 2, %g0 andcc %i2, 2, %g0
st %g2, [%o0] st %g2, [%i0]
be 1f be 1f
andcc %o2, 1, %g0 andcc %i2, 1, %g0
ldub [%o1], %g2 ldub [%i1], %g2
add %o1, 2, %o1 add %i1, 2, %i1
stb %g2, [%o0 + 4] stb %g2, [%i0 + 4]
add %o0, 2, %o0 add %i0, 2, %i0
ldub [%o1 - 1], %g2 ldub [%i1 - 1], %g2
stb %g2, [%o0 + 3] stb %g2, [%i0 + 3]
1: 1:
be 1f be 1f
nop nop
ldub [%o1], %g2 ldub [%i1], %g2
stb %g2, [%o0 + 4] stb %g2, [%i0 + 4]
1: 1:
retl ret
RETL_INSN restore %g7, %g0, %o0
#ifdef FASTER_NONALIGNED
87: /* faster_nonaligned */
andcc %o1, 3, %g0
be 3f
andcc %o1, 1, %g0
be 4f
andcc %o1, 2, %g0
ldub [%o1], %g2
add %o1, 1, %o1
stb %g2, [%o0]
sub %o2, 1, %o2
bne 3f
add %o0, 1, %o0
4:
lduh [%o1], %g2
add %o1, 2, %o1
srl %g2, 8, %g3
sub %o2, 2, %o2
stb %g3, [%o0]
add %o0, 2, %o0
stb %g2, [%o0 - 1]
3:
andcc %o1, 4, %g0
bne 2f
cmp %o5, 1
ld [%o1], %o4
srl %o4, 24, %g2
stb %g2, [%o0]
srl %o4, 16, %g3
stb %g3, [%o0 + 1]
srl %o4, 8, %g2
stb %g2, [%o0 + 2]
sub %o2, 4, %o2
stb %o4, [%o0 + 3]
add %o1, 4, %o1
add %o0, 4, %o0
2:
be 33f
cmp %o5, 2
be 32f
sub %o2, 4, %o2
31:
ld [%o1], %g2
add %o1, 4, %o1
srl %g2, 24, %g3
and %o0, 7, %g5
stb %g3, [%o0]
cmp %g5, 7
sll %g2, 8, %g1
add %o0, 4, %o0
be 41f
and %o2, 0xffffffc0, %o3
ld [%o0 - 7], %o4
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_CHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_CHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_CHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 4b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 16, %g2
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 16, %g2
1:
st %o4, [%o0 - 7]
sth %g2, [%o0 - 3]
srl %g1, 8, %g4
b 88f
stb %g4, [%o0 - 1]
32:
ld [%o1], %g2
add %o1, 4, %o1
srl %g2, 16, %g3
and %o0, 7, %g5
sth %g3, [%o0]
cmp %g5, 6
sll %g2, 16, %g1
add %o0, 4, %o0
be 42f
and %o2, 0xffffffc0, %o3
ld [%o0 - 6], %o4
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_CHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_CHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_CHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 4b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 16, %g2
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 16, %g2
1:
st %o4, [%o0 - 6]
b 88f
sth %g2, [%o0 - 2]
33:
ld [%o1], %g2
sub %o2, 4, %o2
srl %g2, 24, %g3
and %o0, 7, %g5
stb %g3, [%o0]
cmp %g5, 5
srl %g2, 8, %g4
sll %g2, 24, %g1
sth %g4, [%o0 + 1]
add %o1, 4, %o1
be 43f
and %o2, 0xffffffc0, %o3
ld [%o0 - 1], %o4
add %o0, 4, %o0
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, -1)
SMOVE_CHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, -1)
SMOVE_CHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, -1)
SMOVE_CHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, -1)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 4b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 24, %g2
4:
SMOVE_CHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, -1)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 24, %g2
1:
st %o4, [%o0 - 5]
b 88f
stb %g2, [%o0 - 1]
41:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_ALIGNCHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_ALIGNCHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
SMOVE_ALIGNCHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 41b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 16, %g2
4:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 8, 24, -3)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 16, %g2
1:
sth %g2, [%o0 - 3]
srl %g1, 8, %g4
b 88f
stb %g4, [%o0 - 1]
43:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, 3)
SMOVE_ALIGNCHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, 3)
SMOVE_ALIGNCHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, 3)
SMOVE_ALIGNCHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, 3)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 43b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 24, %g2
4:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 24, 8, 3)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 24, %g2
1:
stb %g2, [%o0 + 3]
b 88f
add %o0, 4, %o0
42:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_ALIGNCHUNK(o1, o0, 0x10, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_ALIGNCHUNK(o1, o0, 0x20, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
SMOVE_ALIGNCHUNK(o1, o0, 0x30, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
subcc %o3, 64, %o3
add %o1, 64, %o1
bne 42b
add %o0, 64, %o0
andcc %o2, 0x30, %o3
be,a 1f
srl %g1, 16, %g2
4:
SMOVE_ALIGNCHUNK(o1, o0, 0x00, g2, g3, g4, g5, o4, o5, g7, g1, 16, 16, -2)
subcc %o3, 16, %o3
add %o1, 16, %o1
bne 4b
add %o0, 16, %o0
srl %g1, 16, %g2
1:
sth %g2, [%o0 - 2]
/* Fall through */
#endif /* FASTER_NONALIGNED */
88: /* short_end */ 88: /* short_end */
...@@ -1127,7 +521,7 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */ ...@@ -1127,7 +521,7 @@ FUNC(memcpy) /* %o0=dst %o1=src %o2=len */
stb %g2, [%o0] stb %g2, [%o0]
1: 1:
retl retl
RETL_INSN mov %g7, %o0
90: /* short_aligned_end */ 90: /* short_aligned_end */
bne 88b bne 88b
......
Markdown is supported
0% or
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment
GitLab Nexedi Edition | About GitLab | About Nexedi | 沪ICP备2021021310号-2 | 沪ICP备2021021310号-7