Übliche Verdächtige:

1.) BootCodeSize nicht gesetzt, also erstmal auf 0 setzen, neu
kompilieren und das was im Messagewindow bei cseg [used] im AVRStudio
steht nach BootCodeSize schreiben, neu kompilieren und nicht stören
daran das in der neusten Version nun bei cseg [used] ein Wert der um +2
Bytes größer ist drinnen steht (AVRStudio 4.16 Bugfix)
	  ok
	
2.) Fuses und Lockbits richtig ? Wenn du AVRootloader.ASM kompilierst
schaue in das Messagewindow vom AVRStudio was dort steht wie du die
Fuses setzen sollst. Exakt so im AVRStudio auch einstellen (BOOTSZ
Fuses)
Clock-Fuses korrekt ? CKDIV8 Fuse ?
	 ok

3.) geht die Kommunikation ? also erstmal RX-TX am Dongle verbinden und
schauen das AVRootloader.exe bei [Timeouts] Options=1 eine 1-Wire
Verbindung erkennt. Im Protokoll Fenster siehst du das einmal das
empfangen wird was gesendet wurde. Mit diesem Test hat man also die
Kommunikation bis nach dem Dongle (MAX232, FTDI usw.) getestet. Bei
1-Wire RS232 Dongle aus 1-Wire.png ist das natürlich inklusive.
	 ok

4.) nun in AVRootloader.asm UseRS485=1 setzen und DE_PORT/DE_PIN auf
einen Pin an dem zb. eine LED nach VCC angeschlossen wurde, oder
UseRS485Invert=1 setzen invertiert die Logik. Nun solltes du jedesmal
wenn der Bootloader selber sendet die LED aufleuchten sehen (evntl.
Baudrate geringer setzen)

5.) BootSign: ist identisch zum BootSign im AVRRootloader.exe ?
	 ok

6.) UseAutoBaud=1 gesetzt ?
	 0 und 1 getestet

7.) BootDelay nicht zu knapp bemessen ?
 wie berechnet sich auch F_CPU/x die 250ms??	Was für ein Teiler ist für 18,432MHz empfehlenswert?

8.) überschneiden sich RX/TX Pin/PORT mit dem ISP/DebugWire ? Wenn ja
könnte sich beides gegenseitig stören.
	 ok

9.) eigene Hardware überprüfen, VCC stabil ?
	 ok

10.) Schwingt der Quarz ?
	 ok

Falls irgendwas von diesen Tipps dein Problem lösen sollte bitte teile
es mir mit, so kann ich bei ähnlichen Anfraen gezielter reagieren.
Gruß Hagen

V6.0 mit Mega88 

Mit MAX232
Connection                     : 2-Wire
Device name                    : ATmega88
Device signature               : 1E930A
SRAM size                      :   1024 Byte
EEPROM size                    :    512 Byte
FLASH size                     :   8192 Byte
FLASH size for application     :   7680 Byte
FLASH pagesize                 :     64 Byte
Bootloader size                :    512 Byte
Buffersize for data            :    984 Byte
SRAM start address             :    256
Bootloader version             :      6
Use bootsection                :    Yes
Versioning supported           :     No
Cryptography supported         :     No

03.04.09-21:02:00-125 > Connecting on port COM1...
03.04.09-21:02:00-125 > Timeout.Connect       = 50 ms
03.04.09-21:02:00-125 > Timeout.Base          = 50 ms
03.04.09-21:02:00-125 > Timeout.Erase         = 20 ms
03.04.09-21:02:00-125 > Timeout.Flash         = 25 ms
03.04.09-21:02:00-125 > Timeout.Eeprom        = 20 ms
03.04.09-21:02:00-125 > Timeout.Buffer        = 1 ms
03.04.09-21:02:00-125 > Timeout.AppCmd        = 0 ms
03.04.09-21:02:00-125 > Timeout.KeepAlive     = 250 ms
03.04.09-21:02:00-125 > Timeout.RTSPulse      = 0
03.04.09-21:02:00-125 > Timeout.RTSInterval   = 0
03.04.09-21:02:00-125 > Timeout.ConnectTrials = 3
03.04.09-21:02:00-125 > Timeout.MaxPacketSize = 0
03.04.09-21:02:00-125 > send ident      $00 00 00 00 00 00 00 00 00 0D 42 4F 4F 54 4C 4F 41 44 45 52
03.04.09-21:02:00-484 > send ident      $00 00 00 00 00 00 00 00 00 0D 42 4F 4F 54 4C 4F 41 44 45 52
03.04.09-21:02:00-843 > received data   $93 0A 06 08 30
03.04.09-21:02:00-843 > Timer created
03.04.09-21:02:00-843 > Device connected

03.04.09-21:02:19-093 > send keepalive
03.04.09-21:02:19-343 > send keepalive
03.04.09-21:02:19-531 > Timer released
03.04.09-21:02:19-531 > Program...
03.04.09-21:02:19-531 > execute compiled data
03.04.09-21:02:19-531 > selected options in compiled file:
03.04.09-21:02:19-531 > - programming FLASH
03.04.09-21:02:19-531 > - erase FLASH during programming
03.04.09-21:02:27-640 > executed in 8,11 sec
03.04.09-21:02:27-656 > Timer created
03.04.09-21:02:27-906 > send keepalive
03.04.09-21:02:28-156 > send keepalive

Mit FT232R
Connection                     : 2-Wire
Device name                    : ATmega88
Device signature               : 1E930A
SRAM size                      :   1024 Byte
EEPROM size                    :    512 Byte
FLASH size                     :   8192 Byte
FLASH size for application     :   7680 Byte
FLASH pagesize                 :     64 Byte
Bootloader size                :    512 Byte
Buffersize for data            :    984 Byte
SRAM start address             :    256
Bootloader version             :      6
Use bootsection                :    Yes
Versioning supported           :     No
Cryptography supported         :     No

03.04.09-21:51:11-281 > Connecting on port COM4...
03.04.09-21:51:11-484 > Device connected
03.04.09-21:51:11-484 > Program...
03.04.09-21:51:11-484 > execute compiled data
03.04.09-21:51:11-484 > selected options in compiled file:
03.04.09-21:51:11-484 > - programming FLASH
03.04.09-21:51:11-484 > - erase FLASH during programming
03.04.09-21:51:11-593 > Cmd.SetBuffer.WriteData() ICOM: write error.
03.04.09-21:51:12-000 > Device disconnected

Brücke zw. RX und TX:
03.04.09-21:56:48-031 > Device disconnected
03.04.09-21:57:27-468 > Connecting on port COM4...
03.04.09-21:57:41-828 > Switch to 1-Wire mode
03.04.09-21:58:00-312 > aborted by User

03.04.09-22:03:47-062 > Connecting on port COM4...
03.04.09-22:03:47-062 > Timeout.Connect       = 50 ms
03.04.09-22:03:47-062 > Timeout.Base          = 50 ms
03.04.09-22:03:47-062 > Timeout.Erase         = 10 ms
03.04.09-22:03:47-062 > Timeout.Flash         = 15 ms
03.04.09-22:03:47-062 > Timeout.Eeprom        = 10 ms
03.04.09-22:03:47-062 > Timeout.Buffer        = 1 ms
03.04.09-22:03:47-062 > Timeout.AppCmd        = 0 ms
03.04.09-22:03:47-062 > Timeout.KeepAlive     = 250 ms
03.04.09-22:03:47-062 > Timeout.RTSPulse      = 0
03.04.09-22:03:47-062 > Timeout.RTSInterval   = 0
03.04.09-22:03:47-062 > Timeout.ConnectTrials = -1
03.04.09-22:03:47-062 > Timeout.MaxPacketSize = 0
03.04.09-22:03:47-062 > send ident      $00 00 00 00 00 00 00 00 00 0D 42 4F 4F 54 4C 4F 41 44 45 52
03.04.09-22:03:47-265 > send ident      $00 00 00 00 00 00 00 00 00 0D 42 4F 4F 54 4C 4F 41 44 45 52
03.04.09-22:03:47-453 > received data   $93 0A 06 08 30
03.04.09-22:03:47-468 > Timer created
03.04.09-22:03:47-468 > Device connected
03.04.09-22:03:47-718 > send keepalive
03.04.09-22:03:47-968 > send keepalive
03.04.09-22:03:48-218 > send keepalive
03.04.09-22:03:48-468 > send keepalive
03.04.09-22:03:48-718 > send keepalive
03.04.09-22:03:48-968 > send keepalive
03.04.09-22:03:49-218 > send keepalive
03.04.09-22:03:49-468 > send keepalive
03.04.09-22:03:49-718 > send keepalive
03.04.09-22:03:49-968 > send keepalive
03.04.09-22:03:50-218 > send keepalive
03.04.09-22:03:50-468 > send keepalive
03.04.09-22:03:50-718 > send keepalive
03.04.09-22:03:50-968 > send keepalive
03.04.09-22:03:51-218 > send keepalive
03.04.09-22:03:51-468 > send keepalive
03.04.09-22:03:51-718 > send keepalive
03.04.09-22:03:51-968 > send keepalive
03.04.09-22:03:52-218 > send keepalive
03.04.09-22:03:52-468 > send keepalive
03.04.09-22:03:52-718 > send keepalive
03.04.09-22:03:52-968 > send keepalive
03.04.09-22:03:53-218 > send keepalive
03.04.09-22:03:53-468 > send keepalive
03.04.09-22:03:53-718 > send keepalive
03.04.09-22:03:53-937 > Timer released
03.04.09-22:03:53-937 > Program...
03.04.09-22:03:53-937 > execute compiled data
03.04.09-22:03:53-937 > selected options in compiled file:
03.04.09-22:03:53-937 > - programming FLASH
03.04.09-22:03:54-062 > Cmd.SetBuffer.WriteData() ICOM: write error.
03.04.09-22:03:54-078 > Timer created
03.04.09-22:03:54-328 > send keepalive
03.04.09-22:03:54-468 > Timer released
03.04.09-22:03:54-468 > keepalive failed, terminate connection
03.04.09-22:03:54-531 > Device disconnected

V3.1 mit Mega88

03.04.09-19:40:12-218 > Connecting on port COM1...	(RS232-Kabel mit MAX232 Adapber)
03.04.09-19:40:12-312 > Switch to 2-Wire mode
03.04.09-19:40:12-421 > Device connected
03.04.09-19:40:28-062 > Program...
03.04.09-19:40:28-062 > execute compiled data
03.04.09-19:40:28-062 > 1.1.0.0
03.04.09-19:40:28-062 > selected options in compiled file:
03.04.09-19:40:28-062 > - programming FLASH
03.04.09-19:40:28-062 > - erase FLASH during programming
03.04.09-19:40:28-734 > executed in 0,67 sec
03.04.09-19:42:34-203 > Device disconnected

03.04.09-19:42:35-078 > Connecting on port COM4...	(USB-Kabel mit FTDI FT232RL)
03.04.09-19:42:35-187 > Switch to 2-Wire mode
03.04.09-19:42:38-250 > Device connected
03.04.09-19:42:42-468 > Program...
03.04.09-19:42:42-468 > execute compiled data
03.04.09-19:42:42-468 > 1.1.0.0
03.04.09-19:42:42-468 > selected options in compiled file:
03.04.09-19:42:42-468 > - programming FLASH
03.04.09-19:42:42-468 > - erase FLASH during programming
03.04.09-19:42:42-515 > Cmd.SetAddr.ReadByte() ICOM: read error.
03.04.09-19:45:17-656 > Device disconnected

03.04.09-19:45:33-328 > Connecting on port COM4... 	(USB-Kabel mit FTDI FT232RL)
03.04.09-19:45:33-437 > Switch to 2-Wire mode
03.04.09-19:45:35-125 > Device connected
03.04.09-19:45:35-125 > Program...
03.04.09-19:45:35-125 > execute compiled data
03.04.09-19:45:35-125 > 1.1.0.0
03.04.09-19:45:35-125 > selected options in compiled file:
03.04.09-19:45:35-125 > - programming FLASH
03.04.09-19:45:35-125 > - erase FLASH during programming
03.04.09-19:45:35-250 > Cmd.SetBuffer.WriteData() ICOM: write error.
03.04.09-19:45:35-250 > Device disconnected

03.04.09-22:23:07-125 > Device disconnected
03.04.09-22:23:10-546 > Connecting on port COM4...
03.04.09-22:23:10-656 > Switch to 2-Wire mode
03.04.09-22:23:10-765 > Device connected
03.04.09-22:23:10-765 > Program...
03.04.09-22:23:10-765 > execute compiled data
03.04.09-22:23:10-765 > 1.1.0.0
03.04.09-22:23:10-765 > selected options in compiled file:
03.04.09-22:23:10-765 > - programming FLASH
03.04.09-22:23:10-859 > Cmd.SetBuffer.ResCheck(2)  Error: 67 operation failed
03.04.09-22:23:10-875 > Device disconnected