Добрый день.
Добавляем вот эти две средние строки:
[vba]Код
        Application.DisplayAlerts = False    ' отключаем вывод предупреждения о потере точности
        ActiveSheet.UsedRange.Value = ActiveSheet.UsedRange.Value
        ActiveSheet.Shapes.Range(Array("Button 3")).Delete
        ActiveWorkbook.SaveAs Filename, xlOpenXMLWorkbook    ' xlOpenXMLWorkbook = формат XLSX
 [/vba]
Вообще наверное правильнее перебрать все Shapes, проверить название и удалить все Button (потому что индексы могут быть непредсказуемы), но у меня работает так.