1. GAMESS, как и другие кв-хим. программы, запускается из ком. строки с параметрами: имя входного и выходного файлов. Альтернатива -- запуск из какой-нибудь визуальной проги (HyperChem, wxMacMolplt, Avogadro, etc.), к-рой для этого нужно указать путь к экзешнику Гамесса. Третий путь (для новичка, возможно, оптимальный) -- WinGamess (сама с ним не работала, по-моему, у него нет молекулярного визуализатора, поэтому рекомендуется wxMacMolplt или ChemCraft для создания *.inp файлов и просмотра выдач). Если просто запускать экзешник, ничего не получится -- что Вы и наблюдали.
2. То, что Вы процитировали -- это фрагмент выдачи (очевидно, тестового *.out файла). Это описание задачи (что, собс-но, собирались посчитать). Тегом INPUT CARD> помечены скопированные в *.out строчки из *.inp файла. Значком ! отмечены строчки комментария. В данном случае закомментированы строчки, содержащие бенчмарковые значения -- с ними предлагается сравнить то, что получится у Вас, если Вы запустите у себя соответствующий инпут.
3. PCGAMESS, aka FireFly, не имеет такого простого и удобного визуального интерфейса, как WinGamess, но его тоже можно запускать из некоторых визуальных программ (опять-таки указав в настройках путь к экзешнику). Формат ввода аналогичен Гамессовскому, отличия -- в некоторых группах ключевых слов. А так -- милости просим на classic.chem.msu.su. Только сначала прочитайте там все, а потом задавайте вопросы.